Glossário IA
O dicionário completo da Inteligência Artificial
242
categorias
3.306
subcategorias
39.932
termos
termos
Atenção Multi-Cabeça
Mecanismo de atenção que executa em paralelo várias funções de atenção para capturar diferentes facetas das relações semânticas entre tokens. Permite ao modelo focar-se simultaneamente em diferentes posições da sequência de entrada.
termos
Projeção de Saída da Atenção Multi-Cabeça
Camada linear final que combina as saídas de todas as cabeças de atenção em uma matriz unificada. Transforma a concatenação das cabeças de atenção em dimensões compatíveis com as camadas seguintes.
🔍