Atenção Esparsa

Atenção de Padrão Fixo

Esquema de atenção esparsa onde as conexões entre tokens seguem um padrão predeterminado e fixo, como padrões em faixas diagonais ou em zigue-zague. Simplifica a implementação e garante uma complexidade previsível, capturando certas estruturas espaciais.

← Voltar