Atención de múltiples cabezas

Incrustación Posicional Rotatoria

Técnica de codificación posicional que aplica una rotación compleja a los embeddings en función de su posición relativa. Conserva las propiedades de invarianza absoluta mientras codifica eficientemente las relaciones posicionales.

← Volver