AutoInt

Agregação de Cabeças

Processo de concatenação ou média das saídas de todas as cabeças de atenção para formar uma representação unificada antes de passá-la para a próxima camada.

← Voltar