AI用語集

📖

用語

忠実度スコア (Fidelity Score)

テストデータセット上で、元のモデルと近似モデル（サロゲートモデル）間のパフォーマンスの差として計算される定量的メトリック。

📖

用語

説明の堅牢性

入力データやモデル内の小さな摂動に対して、有意に変化することなく耐えられる説明の能力。

📖

用語

サロゲートモデルの予測誤差 (Surrogate Model Error)

元のモデルの予測と、その振る舞いを模倣するように訓練された解釈可能なモデル（サロゲートモデル）の予測との差。

📖

用語

説明のR² (Explanation R-squared)

サロゲートモデルによって説明される元のモデルの予測の分散の割合を測定する決定係数。

📖

用語

クラス忠実度 (Class Fidelity)

与えられたインスタンスについて、説明が元のモデルと同じ予測クラスを維持するかどうかを評価する分類問題に特化した測定。

📖

用語

回帰忠実度 (Regression Fidelity)

回帰モデルの場合、元のモデルの予測と説明の予測間の数値的な近接性を評価し、多くの場合平均二乗誤差を通じて評価されます。

📖

用語

局所的忠実度と大域的忠実度 (Local vs Global Fidelity)

単一の予測（局所的）または予測空間全体（大域的）に対してモデルを正確に表現する説明の能力の区別。

📖

用語

複雑性と忠実度のトレードオフ (Complexity-Fidelity Trade-off)

説明の複雑さ（例：ルール数）とその忠実度との関係を分析し、解釈可能性と正確性の間の最適なバランスを探ること。

📖

用語

反例忠実性 (Counterfactual Fidelity)

予測を変更する方法を示す反ファクト説明が、変更されたインスタンスの近傍でモデルの動作に忠実であり続けるかどうかを評価します。

📖

用語

特徴属性忠実性 (Feature Attribution Fidelity)

SHAPやLIMEなどの方法について、特徴の重要度の合計が予測と期待されるベースライン値との差に近いかどうかを測定します。

📖

用語

正規化忠実性誤差 (Normalized Fidelity Error)

異なるモデルまたはデータセット間で公平な比較を可能にするためにスケール調整された忠実性誤差のバージョン。

📖

用語

概念説明忠実性 (Concept Fidelity)

高レベルの概念（例：「縞模様」「毛皮」）に基づく説明が、モデルの推論を忠実に捉える程度を測定します。

📖

用語

ルール説明忠実性 (Rule Fidelity)

ルールとモデルが一致するインスタンスの割合を測定することにより、モデルを説明するために抽出されたルールセットの精度を評価します。