Transformers para Sequências Longas

Codificação Posicional Axial

Método de codificação posicional que decompõe a posição bidimensional em codificações unidimensionais para os eixos. Permite uma melhor generalização em comprimentos de sequência não vistos durante o treinamento.

← Voltar