AI 词汇表
人工智能完整词典
结构化约束量化
一种神经压缩技术，在应用特定量化约束的同时保留神经网络架构和结构关系的量化方法。
量化感知训练 (QAT)
一种在训练过程中模拟量化效应的方法，以最小化量化后的精度损失。
训练后量化 (PTQ)
在模型完全训练后应用的量化过程，无需额外的重新训练。
量化粒度
对参数进行量化分组的详细程度，范围从张量级别到通道级别或组级别。
量化偏差
将浮点数转换为低精度表示时引入的系统误差。
量化校准
通过分析激活分布来确定最佳量化参数（缩放因子和零点）的过程。
权重量化聚类
将相似权重分组到共享共同代表值的聚类中，以降低复杂度的技术。
量化精度
用于表示每个量化值的位数，极端方法中通常为8、4、2或1位。
Gamme Dynamique
Intervalle de valeurs que peut représenter le format quantifié, crucial pour préserver les informations importantes du modèle.
Quantification à Basse Précision
Compression extrême utilisant moins de 8 bits par paramètre, nécessitant des techniques avancées pour maintenir les performances.
Reconstruction de Poids
Processus d'optimisation visant à minimiser l'erreur entre les poids originaux et leurs versions quantifiées reconstruites.
Optimisation de la Structure de Quantification
Algorithmes déterminant automatiquement la configuration de quantification optimale pour chaque partie du réseau.
Sensibilité à la Quantification
Mesure de l'impact de la quantification sur les performances d'une couche spécifique, guidant les stratégies de quantification hétérogène.
Quantification avec Contraintes de Topologie
Approche préservant les propriétés topologiques du réseau tout en appliquant des contraintes de quantification spécifiques.