Codificación Posicional

Codificación posicional de Transformer

Componente esencial de la arquitectura Transformer original que utiliza codificaciones sinusoidales para permitir que el modelo utilice el orden de los tokens sin mecanismos recurrentes.

← Volver