Quantification

Quantification 8-bit

Technique de compression réduisant les poids du modèle de 32 bits à 8 bits, offrant un compromis optimal entre performance et précision pour les LLM.

← Retour