Escalado de atención

Normalización de la dimensión de embeddings

Técnica de normalización basada en la dimensionalidad de los embeddings para asegurar una magnitud comparable de las representaciones vectoriales en el espacio de atención.

← Volver