AI 詞彙表
人工智能完整詞典
保真度评分 (Fidelity Score)
一种定量指标，计算为原始模型与近似模型（替代模型）在测试数据集上性能差异。
解释鲁棒性
解释在输入数据或模型发生微小扰动时，不发生显著变化的能力。
替代模型预测误差 (Surrogate Model Error)
原始模型预测与为模仿前者行为而训练的可解释（替代）模型预测之间的差异。
解释R² (Explanation R-squared)
决定系数，衡量原始模型预测方差中被替代模型解释的比例。
类别保真度 (Class Fidelity)
针对分类问题的特定度量，评估解释是否对给定实例保持与原始模型相同的预测类别。
回归保真度 (Regression Fidelity)
对于回归模型，评估原始模型预测与解释预测之间的数值接近程度，通常通过均方误差衡量。
局部与全局保真度 (Local vs Global Fidelity)
区分解释是精确表示模型对单一预测（局部）还是对其整个预测空间（全局）的能力。
复杂度-保真度权衡 (Complexity-Fidelity Trade-off)
分析解释复杂度（如规则数量）与其保真度之间的关系，寻求可解释性与精确度之间的最优平衡。
Fidélité sur les contre-exemples (Counterfactual Fidelity)
Évalue si une explication contre-factuelle, qui montre comment changer une prédiction, reste fidèle au comportement du modèle dans le voisinage de l'instance modifiée.
Fidélité d'attribution de caractéristiques (Feature Attribution Fidelity)
Pour les méthodes comme SHAP ou LIME, mesure si la somme des importances de caractéristiques se rapproche de la différence entre la prédiction et la valeur de base attendue.
Erreur de fidélité normalisée (Normalized Fidelity Error)
Version de l'erreur de fidélité mise à l'échelle pour permettre des comparaisons équitables entre différents modèles ou ensembles de données.
Fidélité de l'explication conceptuelle (Concept Fidelity)
Mesure dans quelle mesure une explication basée sur des concepts de haut niveau (ex: 'rayé', 'poil') capture fidèlement le raisonnement du modèle.
Fidélité de l'explication par règles (Rule Fidelity)
Évalue la précision d'un ensemble de règles extraites pour expliquer un modèle, en mesurant la proportion d'instances où les règles et le modèle sont d'accord.