Codificação Posicional

Embeddings de Posição

Vetores densos que representam a posição de cada token numa sequência, geralmente da mesma dimensão que os embeddings de palavras e adicionados a estes antes de serem passados para o mecanismo de atenção.

← Voltar