AI 词汇表
人工智能完整词典
200
个类别
2,608
个子类别
30,011
个术语
个术语
混合量化
一种优化技术,对神经网络的不同层应用不同的位精度,以平衡性能和模型大小。这种策略性方法能够在关键层保持高精度,同时减少整体内存占用。
个术语
感知量化
一种在训练过程中集成伪量化操作的方法,用于模拟低精度量化的效果。该技术使模型能够在最终转换之前适应舍入误差。
个术语
层敏感度
衡量量化对神经网络各层单独性能影响的指标。敏感层需要更高的精度来维持模型的整体质量。
个术语
异构量化
一种根据各层的计算特性和重要性动态分配不同位宽的量化方法。该策略在硬件加速和精度损失之间优化权衡。
个术语
模型分析
对已训练模型特征进行全面分析,以识别适合不同量化策略的候选层。分析过程评估统计分布、动态范围和精度影响。
个术语
逐张量量化
对整个张量应用单一组量化参数的方法,确保所有值的尺度一致性。该方法简化了硬件实现,但可能降低对分布范围较广情况的精度。
个术语
逐通道量化
在卷积层中对每个通道或通道组使用不同参数的量化技术。该方法通过使尺度适应每个滤波器的特定特征,更好地保持精度。
个术语
量化尺度
根据公式 Q = round(R/S + Z) 将浮点值转换为量化整数的乘法参数。尺度决定了量化值的精度和表示范围。
个术语
量化零点
量化系统中对应浮点零值的整数值,对于保留神经网络的结构性零值至关重要。该参数实现了量化域与实数域之间的精确对齐。
个术语
量化噪声
将高精度数值转换为低比特表示时引入的误差,表现为信息损失。量化噪声分析指导选择需要保持高精度的层。
个术语
重量化
在同一模型内不同量化精度之间进行转换的过程,在比特数不同的层之间进行运算时是必需的。重量化在保持数值一致性的同时优化资源利用。
个术语
可变比特策略
一种算法方法,用于确定网络中比特宽度的最优分配,以在满足精度约束的条件下最小化模型大小。该策略解决复杂的组合优化问题。
个术语
分层量化
根据层的重要性和对量化的敏感度将层组织成层次结构的方法。分层量化根据每个层组的层次级别应用不同的比特策略。
🔍