AI 詞彙表
人工智能完整詞典
200
類別
2,608
子類別
30,011
術語
術語
代理模型
一种简单且可解释的机器学习模型，经过训练以近似复杂模型的行为，从而帮助理解原始模型的预测。
術語
全局代理模型
一种可解释模型，在整个数据集上模仿黑盒模型的全局行为，提供复杂模型决策的总体视图。
術語
局部代理模型
一种简单模型，仅在单个预测的特定邻域内近似复杂模型的行为，从而在局部层面解释决策。
術語
模型保真度
衡量代理模型忠实复制原始黑盒模型预测能力的指标，通常通过决定系数R²或均方误差来评估。
術語
代理决策树
用作代理模型的简单决策树，用于近似复杂模型的行为，提供决策规则的直观可视化解释。
術語
特征重要性
输入特征在模型预测中相对重要性的量化度量，通过代理模型的系数或其他加权方法计算。
術語
局部线性回归
在特定预测周围的加权数据子集上拟合的线性代理模型，能够在局部解释特征与预测之间的关系。
術語
反事实解释
通过生成最小修改的样本来改变模型预测的方法，通常通过代理模型实现以识别关键特征。
術語
模型复杂度
衡量模型结构复杂度的指标，其中代理模型倾向于低复杂度（浅层树、线性模型）以保证可解释性。
術語
分段逼近
将特征空间划分为多个区域的策略，每个区域都有其简单的代理模型，在保持局部可解释性的同时实现灵活逼近。
術語
核加权
局部代理模型中使用的技术，为靠近关注点的样本赋予更大权重，确保对模型行为的局部逼近更准确。
術語
扰动采样
通过扰动原始特征在预测点周围生成合成数据的方法，用于在相关邻域上训练局部代理模型。
術語
解释有效性
评估标准，衡量代理模型提供的解释是否与领域知识一致，并对人类决策制定有用。
術語
替代函数
简化的数学表示，近似原始模型的复杂决策函数，对于让非技术用户理解预测结果至关重要。
🔍