AI 詞彙表
人工智能完整詞典
200
類別
2,608
子類別
30,011
術語
術語
校准数据集
训练数据的代表性子集，用于确定静态量化时的最优值范围，对计算缩放因子和零点至关重要。
術語
反量化
量化的逆过程，将低精度整数值转换回浮点数，用于推理过程中需要更高精度的计算。
術語
混合精度量化
混合策略，根据模型各层对量化的敏感度，对不同层应用不同的精度级别（8位、4位、2位）。
術語
逐通道量化
对卷积层每个输出通道应用独立缩放因子的量化技术，可显著提高CNN的精度。
術語
逐张量量化
更简单的方案，对整个张量使用单一的缩放因子和零点，精度较低但计算速度比逐通道量化更快。
術語
截断范围
校准期间定义的值范围，用于在量化前限制极端值，通过排除异常值来最小化量化误差。
術語
逐层量化
独立优化网络每层量化参数的方法，考虑每层特定的分布特征。
術語
量化误差
原始浮点值与其量化表示之间的差异，通过MSE或KL散度等指标衡量量化质量。
術語
纯整数推理
一种执行范式，其中模型的所有操作均使用整数运算完成，完全消除浮点转换以实现最高性能。
🔍