AI 词汇表
人工智能完整词典
200
个类别
2,608
个子类别
30,011
个术语
个术语
显著性图
热力图，指示每个像素或输入特征对模型预测的重要性，通过测量输出相对于输入变化的敏感性来计算。
个术语
特征可视化
生成合成输入的过程，这些输入能最大化特定神经元或整个层的激活，从而直观理解每个神经元学习检测的内容。
个术语
激活最大化
优化技术，寻找最能强烈激活特定神经元或层的输入模式，揭示网络学习的抽象特征。
个术语
平滑梯度
显著性图的正则化技术，通过对输入添加噪声后计算的多个显著性图进行叠加，减少视觉噪声并提高解释的清晰度。
个术语
引导反向传播
反向传播的变体，修改梯度传递过程，仅传播正梯度，消除负贡献，以产生更清晰的重要特征可视化。
个术语
类激活映射
可视化方法，通过将最后一层卷积特征图与最终分类层权重加权，识别图像中的判别性区域。
个术语
注意力机制可视化
Transformer模型中注意力权重的图形表示，明确显示模型在决策过程中建立的输入不同部分之间的关系和依赖。
个术语
神经网络剪枝以增强可解释性
选择性移除不重要连接或神经元的过程，以简化模型结构同时保持其性能，从而促进对网络内部运作的理解。
个术语
概念激活向量 (TCAV)
一种全局解释方法，通过测量预测结果对这些概念存在的敏感性，通过方向激活向量来测试人类可解释概念在模型决策中的重要性。
个术语
神经元覆盖率
可解释性评估指标，衡量测试集激活的神经元比例，指示网络的哪些部分被实际使用以及模型如何分布其处理过程。
🔍