Codificação Posicional

Codificação Posicional do Transformer-XL

Mecanismo de codificação posicional recorrente que permite modelar dependências de longa distância reutilizando os estados ocultos dos segmentos anteriores com uma codificação posicional relativa.

← Voltar