Квантизация и сжатие

Структурированная обрезка (Structured Pruning)

Техника сжатия, которая удаляет целые структуры весов, такие как фильтры, каналы или заголовки внимания, а не отдельные веса. Она более эффективна для ускорения вычислений на современном оборудовании, чем неструктурированная обрезка.

← Назад