Codificación Posicional

Embeddings Posicionales

Vectores densos que representan la posición de cada token en una secuencia, generalmente de la misma dimensión que los embeddings de palabras y añadidos a estos antes de pasar al mecanismo de atención.

← Volver