Attention Multi-Tête

Concaténation des Têtes

Étape finale du multi-head attention où les sorties de toutes les têtes sont concaténées puis projetées linéairement pour produire la sortie finale du mécanisme d'attention.

← Tillbaka