Mecanismo de Atenção

Codificação Posicional ALiBi

Método de codificação posicional que aplica vieses lineares decrescentes com base na distância, permitindo uma melhor extrapolação para comprimentos de sequência mais longos.

← Voltar