Позиционное кодирование
Хеширование с учетом локальности Reformer
Специализированная техника в Reformer, которая использует LSH с позиционным кодированием для снижения вычислительной сложности внимания на очень длинных последовательностях.
← Назад