Encoder-Decoder Architecture

Passe-avant (Feed-Forward Network)

Réseau neuronal entièrement connecté appliqué à chaque position de manière indépendante après le mécanisme d'attention, permettant une transformation non linéaire et une projection à plus haute dimension.

← Retour