Atenção Esparsa

Linformers

Arquitetura transformer com complexidade linear usando uma projeção de chaves e valores em uma dimensão reduzida k << n, permitindo processar sequências muito longas de forma eficiente.

← Voltar