AI用語集
人工知能の完全辞典
忠実性
説明が基盤となるモデルの実際の挙動を忠実に表現する能力を定量化する指標であり、説明の予測と元のモデルの予測間の相関によって評価される。
安定性
類似またはわずかに摂動された入力に対して生成される説明の一貫性を測定する指標であり、データの微小な変動に対する解釈の堅牢性を保証する。
理解容易性
人間が説明を解釈し理解する容易さを評価する指標であり、多くの場合、説明的表現の言語的または構造的複雑さによって測定される。
関連性
説明において強調された特徴がモデルの予測に対してどの程度関連しているかを定量化するスコアであり、影響力のある変数に割り当てられた重要性によって評価される。
完全性
説明がモデルの決定に寄与したすべての関連要因を捉えているかどうかを評価する指標であり、完全な解釈に不可欠な情報を省略していないことを確認する。
一貫性
同じモデルによって生成された異なる説明間の論理的一貫性を定量化する指標であり、類似した予測に関する解釈において矛盾がないことを保証する。
感応性
説明が入力特徴の変化に応じてどのように変化するかを評価するスコアであり、説明手法のデータ変更に対する応答性を測定する。
堅牢性
悪意のある摂動や敵対的攻撃に対する説明の耐性を定量化する指標であり、劣悪な条件下における解釈の信頼性を保証する。
信頼度スコア
AIモデルによって提供される解釈の信頼性を反映する、説明に関連する確実性の程度を評価する数値指標。
説明の深さ
説明の詳細レベルと粒度を測定する指標で、モデルの内部メカニズムがどの程度深く明らかにされるかを定量化する。
カバレッジ
説明可能性の手法によって実際に説明されるモデルのインスタンスまたは特徴の割合を評価するスコアで、適用範囲の広さを測定する。
計算時間
説明を生成するために必要な時間的複雑さを測定する定量的指標で、説明手法の実用性とスケーラビリティに直接影響する。
説明精度
説明の定量的な正確さを評価する指標で、割り当てられた重要度の重みと特徴の予測への実際の影響との適合度を測定する。
粒度
説明の詳細レベルを定義する指標で、モデルのグローバルな解釈から個々の予測ごとのローカルな説明まで幅広い。
ローカル忠実度
個々の予測に対する説明の精度を測定する特定の指標で、モデルのローカルな動作とその近似的説明との対応を評価する。
グローバル忠実度
説明がモデルの全予測にわたるグローバルな動作を忠実に表現する能力を定量化する指標で、グローバル近似の精度を測定する。