Разреженное внимание

Linear Complexity Attention

Класс методов внимания, снижающих алгоритмическую сложность с O(n²) до O(n), позволяющий масштабирование для очень длинных последовательностей.

← Назад