Codificação Posicional

Codificação Posicional Causal

Positional Encoding usado em modelos decodificadores autorregressivos onde a atenção é mascarada para ser apenas causal (para a esquerda).

← Voltar