Escalonamento da Atenção

Normalização da Dimensão do Embedding

Técnica de normalização baseada na dimensionalidade dos embeddings para garantir uma magnitude comparável das representações vetoriais no espaço de atenção.

← Voltar