Attention Additive

Vecteur de Contexte

Somme pondérée des états cachés de l'encodeur, où les poids sont les scores d'attention normalisés, fournissant au décodeur une représentation contextualisée de la séquence d'entrée.

← Retour