Architecture Encoder-Decoder

Embedding de Token

Représentation vectorielle dense de chaque token d'entrée, apprise pendant l'entraînement, qui capture des informations sémantiques et syntaxiques et sert de point de départ pour les couches d'attention.

← Zurück