Auto-supervisión generativa

Codificador bidireccional

Componente que utiliza el contexto pasado y futuro para codificar los tokens, crucial para las tareas de enmascaramiento en autosupervisión generativa.

← Volver