Positional Encoding

Position Embeddings

Vecteurs denses représentant la position de chaque token dans une séquence, ajoutés ou concaténés aux embeddings de tokens pour fournir des informations de localisation spatiale ou temporelle.

← Retour