Atenção Esparsa

Sinkhorn Sorting

Algoritmo que utiliza a iteração de Sinkhorn para transformar a atenção em permutação diferenciável, aplicado em arquiteturas de atenção esparsa.

← Voltar