Mecanismo de Atenção
Codificação Posicional ALiBi
Método de codificação posicional que aplica vieses lineares decrescentes com base na distância, permitindo uma melhor extrapolação para comprimentos de sequência mais longos.
← Voltar