Quantification Statique

Представление INT4

Формат экстремального квантования, использующий 4-битные целые числа (от -8 до 7), который значительно уменьшает размер модели, но вносит заметную потерю точности, требующую применения специализированных методов компенсации.

← Назад