Codificação Posicional

Codificação Posicional Alibi

Método que penaliza os scores de atenção com base na distância entre os tokens, permitindo uma extrapolação eficaz para comprimentos de sequência mais longos sem retreinamento.

← Voltar