AI 詞彙表
人工智能完整詞典
200
類別
2,608
子類別
30,011
術語
術語
反事实实例
相对于原始案例经过最小修改的数据实例，能够将模型预测改变为期望输出，用于解释模型的边界决策。
術語
反事实解释
一种可解释性方法，通过呈现假设情景（反事实实例）来解释预测结果，在该情景下模型的决策会有所不同，从而阐明决策标准。
術語
反事实有效性
确保生成的反事实实例确实能产生模型预期的替代预测的标准，保证所提供解释的可靠性和相关性。
術語
反事实邻近性
衡量原始实例与反事实实例之间距离的指标，通常通过范数（如L1、L2）量化，旨在确保解释的合理性和易解释性。
術語
反事实稀疏性
反事实实例应尽可能少地修改原始实例特征的原则，以最大化解释的清晰度和可操作性。
術語
反事实合理性
评估反事实实例在现实世界中的可信度，确保建议的修改是可行的，且不构成异常或不可能的情况。
術語
反事实多样性
生成非冗余反事实实例集合的目标，提供多个不同的替代路径来实现不同的预测，从而丰富对模型的理解。
術語
反事实成本
权衡反事实实例中特征修改的函数，反映在现实中实施这些变更的难度或成本（金钱、时间等）。
術語
因果反事实解释
一种先进方法，通过尊重变量间的因果关系生成反例，确保所提出的场景不违反现实世界的约束条件。
術語
反事实鲁棒性
反例在面对轻微变化或噪声时保持其替代预测的能力，表明模型在该区域决策边界的稳定性。
術語
对抗性反例生成
使用对抗学习技术创建反例，通常出于安全或审计目的，以测试模型的漏洞和弱点。
術語
反事实潜在空间
在低维表示空间（潜在空间）中搜索反例的方法，以提高生成实例的计算效率和一致性。
術語
反事实优化方法
一套算法（如约束规划、梯度下降）用于解决寻找最优反例的问题，通过最小化结合邻近性和有效性的损失函数。
術語
多类别反事实解释
将反例扩展到具有两个以上类别的分类问题，其中生成实例以切换到任何其他目标类别，而不仅仅是对立类别。
🔍