Encodage Positionnel

Biais Positionnel

Technique d'encodage positionnel où l'information de position est ajoutée sous forme de biais dans les scores d'attention plutôt que dans les embeddings d'entrée.

← Retour