Atenção Linear e Eficiente

Nyströmformer

Modelo que utiliza o método de Nyström para aproximar a matriz de atenção completa, amostrando um pequeno número de pontos de referência ('landmarks'), reduzindo a complexidade de O(n²) para O(n*m), onde m << n.

← Voltar