AI 詞彙表
人工智能完整詞典
200
類別
2,608
子類別
30,011
術語
術語
混合量化
一种优化技术，对神经网络的不同层应用不同的位精度，以平衡性能和模型大小。这种策略性方法能够在关键层保持高精度，同时减少整体内存占用。
術語
感知量化
一种在训练过程中集成伪量化操作的方法，用于模拟低精度量化的效果。该技术使模型能够在最终转换之前适应舍入误差。
術語
层敏感度
衡量量化对神经网络各层单独性能影响的指标。敏感层需要更高的精度来维持模型的整体质量。
術語
异构量化
一种根据各层的计算特性和重要性动态分配不同位宽的量化方法。该策略在硬件加速和精度损失之间优化权衡。
術語
模型分析
对已训练模型特征进行全面分析，以识别适合不同量化策略的候选层。分析过程评估统计分布、动态范围和精度影响。
術語
逐张量量化
对整个张量应用单一组量化参数的方法，确保所有值的尺度一致性。该方法简化了硬件实现，但可能降低对分布范围较广情况的精度。
術語
逐通道量化
在卷积层中对每个通道或通道组使用不同参数的量化技术。该方法通过使尺度适应每个滤波器的特定特征，更好地保持精度。
術語
量化尺度
根据公式 Q = round(R/S + Z) 将浮点值转换为量化整数的乘法参数。尺度决定了量化值的精度和表示范围。
術語
量化零点
量化系统中对应浮点零值的整数值，对于保留神经网络的结构性零值至关重要。该参数实现了量化域与实数域之间的精确对齐。
術語
量化噪声
将高精度数值转换为低比特表示时引入的误差，表现为信息损失。量化噪声分析指导选择需要保持高精度的层。
術語
重量化
在同一模型内不同量化精度之间进行转换的过程，在比特数不同的层之间进行运算时是必需的。重量化在保持数值一致性的同时优化资源利用。
術語
可变比特策略
一种算法方法，用于确定网络中比特宽度的最优分配，以在满足精度约束的条件下最小化模型大小。该策略解决复杂的组合优化问题。
術語
分层量化
根据层的重要性和对量化的敏感度将层组织成层次结构的方法。分层量化根据每个层组的层次级别应用不同的比特策略。
🔍