AI 词汇表
人工智能完整词典
200
个类别
2,608
个子类别
30,011
个术语
个术语
校准数据集
训练数据的代表性子集，用于确定静态量化时的最优值范围，对计算缩放因子和零点至关重要。
个术语
反量化
量化的逆过程，将低精度整数值转换回浮点数，用于推理过程中需要更高精度的计算。
个术语
混合精度量化
混合策略，根据模型各层对量化的敏感度，对不同层应用不同的精度级别（8位、4位、2位）。
个术语
逐通道量化
对卷积层每个输出通道应用独立缩放因子的量化技术，可显著提高CNN的精度。
个术语
逐张量量化
更简单的方案，对整个张量使用单一的缩放因子和零点，精度较低但计算速度比逐通道量化更快。
个术语
截断范围
校准期间定义的值范围，用于在量化前限制极端值，通过排除异常值来最小化量化误差。
个术语
逐层量化
独立优化网络每层量化参数的方法，考虑每层特定的分布特征。
个术语
量化误差
原始浮点值与其量化表示之间的差异，通过MSE或KL散度等指标衡量量化质量。
个术语
纯整数推理
一种执行范式，其中模型的所有操作均使用整数运算完成，完全消除浮点转换以实现最高性能。
🔍