Quantification et Optimisation

8-bit Quantization

Conversion des paramètres du modèle de 32 ou 16 bits vers 8 bits, réduisant de 75% la mémoire avec impact modéré sur la précision.

← Terug