Interpretabilidade dos Mecanismos de Atenção

Pontuação de Alinhamento

Valor bruto, antes da aplicação da função softmax, resultante do produto escalar entre a consulta (query) e a chave (key) de um token, medindo sua compatibilidade ou relevância mútua.

← Voltar