Arquitectura Codificador-Decodificador

Enmascaramiento Causal

Técnica aplicada en el decodificador para evitar que cada posición preste atención a las posiciones futuras, garantizando así la naturaleza autoregresiva de la generación y la ausencia de fuga de información.

← Volver