Quantification Statique
Представление INT4
Формат экстремального квантования, использующий 4-битные целые числа (от -8 до 7), который значительно уменьшает размер модели, но вносит заметную потерю точности, требующую применения специализированных методов компенсации.
← Назад