Codificación Posicional

Codificación Posicional Bidireccional

Técnica que utiliza codificaciones distintas para las direcciones izquierda-derecha y derecha-izquierda, permitiendo al modelo capturar simultáneamente la información contextual en ambas direcciones como en los modelos BERT.

← Volver