AI 詞彙表
人工智能完整詞典
反事实分析
一种可解释性方法，识别对实例特征进行的最小修改，以使模型的预测转向期望输出，创建假设性的'如果...会怎样'场景。
对比解释
通过将预测与另一个合理预测进行对比来解释预测的技术，突出显示证明模型选择某一选项而非另一选项的特征。
锚定规则
以条件规则形式呈现的局部解释，将模型的预测'锚定'在特定实例周围，确保在这些规则定义的邻域内预测保持不变。
成对对比解释
通过直接比较两个不同实例（通常是正确预测和错误预测）来生成解释的方法，以分离模型决策的决定性因素。
多重反事实场景
为单一预测生成一组多样化的反事实解释，提供关于替代路径和达到不同结果的不同方式的更丰富视角。
可操作反事实空间
对实例特征可能的修改集合，这些修改在现实世界中既可行又与用户相关，将反事实解释的生成限制在合理场景内。
差异诊断
分析模型在两个上下文或数据集之间（例如：漂移前后）行为差异的方法，以理解其决策逻辑的变化。
原型案例解释
通过将预测与预测类别最具代表性的案例（原型）进行对比来解释预测的技术，突出显示使实例接近或远离该原型的特征。
比较敏感性分析
评估模型对给定实例的预测如何响应其特征变化，并将此响应与其他实例或参考案例进行比较。
模型替换解释
通过将复杂模型（黑盒）的决策与在相同局部邻域上训练的更简单可解释模型（如决策树）的决策进行比较来解释的方法。
相对于标准偏差图
突出显示实例中显著偏离数据'正常'或预期分布的特征的可视化，从而解释其预测为何非典型。
对比案例推理
受法律推理启发的解释方法，通过将决策与过去类似但结果不同的案例进行比较来证明决策的合理性，以分离'决定性因素'。
排除标准解释
通过识别在决策过程中主动导致排除某个选项的特征来解释模型为何未选择某个类别的技术。
对比决策边界分析
检查定义模型预测的两个类别之间边界的特征，重点关注靠近此边界的实例以理解转换因素。
预测反转解释
将模型的预测反转（例如从'拒绝'变为'接受'）并分析所需特征变化的过程，提供关于原始实例缺少什么的解释。
归因配置文件比较
比较两个实例或实例组之间的特征重要性配置文件（由SHAP、LIME等生成）以揭示模型逻辑中细微差异的方法。
不利情景解释
生成一个'最坏情况'情景，虽然接近原始实例，但导致非常不利的预测，有助于理解模型决策的稳健性和弱点。