Attention Additive

Réseau Feed-Forward d'Alignement

Réseau neuronal à une couche cachée avec activation tanh utilisé dans l'attention additive pour transformer la concaténation des vecteurs d'état avant calcul du score d'alignement.

← Wstecz