AI 词汇表

📖

个术语

锚点（Anchors）

一种局部解释方法，提供简单且充分的决策规则（锚点），这些规则概率性地保证在观测点邻域内具有相同的预测，提供比LIME更稳定的解释。

📖

个术语

沙普利值

SHAP的基本理论概念，表示特征在所有可能的特征组合中对模型的平均边际贡献，确保重要性分配的公平性。

📖

个术语

局部代理解释

一种训练简单可解释模型（如决策树或线性回归）的方法，仅在特定预测的受限邻域内近似复杂模型的行为。

📖

个术语

观测邻域

围绕特定观测点定义的数据空间，被局部解释方法用于生成变体并近似模型在此受限区域内的行为。

📖

个术语

局部保真度

评估局部解释（如代理模型）在被解释观测点邻域内重现原始模型预测准确度的指标。

📖

个术语

TreeSHAP

SHAP算法的一种变体，针对基于决策树的模型进行了优化，能够通过利用这些模型的固有结构更快地计算精确的沙普利值。

📖

个术语

KernelSHAP

使用加权函数（核）来近似估计沙普利值的SHAP实现，使其能够以模型无关的方式应用于任何模型，但计算成本较高。

📖

个术语

DeepSHAP

专门为深度学习模型设计的SHAP适配版本，将沙普利值与反向传播技术相结合，以有效计算特征归因。

📖

个术语

临时解释

为单个实例专门生成的局部解释，不声称具有普适性，与试图描述模型整体行为的全局解释相反。

📖

个术语

局部特征影响

衡量特定特征对单个观测预测的影响程度，量化该特征的变化将如何改变模型对此特定案例的结果。

📖

个术语

个体预测诊断

使用各种局部方法（LIME、SHAP、反事实）分析单个预测的完整过程，以理解底层机制、验证决策并识别潜在偏差。

📖

个术语

局部解释稳定性

局部解释方法为非常相似的观测产生一致解释的特性，这是个体诊断可信度和可靠性的关键问题。

📖

个术语

积分梯度

一种用于可微分模型的局部归因方法，通过沿从基线到输入的路径积分输出相对于该特征的梯度来计算特征重要性。

📖

个术语

基线

在归因方法（如积分梯度）中使用的参考点（通常是零向量或平均实例），用于衡量特征相对于中性或预期状态的贡献。