AI用語集
人工知能の完全辞典
忠実度
生成された説明とモデルの実際の予測との一貫性を定量化する指標。説明がモデルの動作を忠実に表現しているかどうかを測定する。
スパース性
予測を正当化するために必要な最小限の特徴量を測定することで、説明の簡潔さを評価する指標。簡素化された説明を促進する。
安定性
入力がわずかに変化した場合の説明の一貫性を評価するロバスト性の測定。摂動に対する解釈の信頼性を保証する。
完全性
説明がモデルの決定に影響を与えたすべての関連要因を網羅的にカバーしているかどうかを評価する指標。部分的または偏った説明を回避する。
一貫性
同様の性能を持つモデルが同じ入力に対して一貫した説明を生成するかどうかを測定する指標。モデル間の統一性を保証する。
信頼性
説明がモデルの内部推論プロセスを正確に反映している程度を評価する指標。相関関係と実際の因果関係を区別する。
近接性指標
生成された説明とモデルの実際の動作との間の距離を定量化する測定。解釈的近似の質を評価する。
理解容易性スコア
人間が生成された説明を理解し解釈する容易さを測定する指標。構文的複雑さと認知的複雑さを組み合わせたもの。
必要性尺度
説明における各特徴量の批判的重要度を定量化する指標で、それらの除去がモデルの予測を有意に変化させるかどうかを評価する。
十分性指標
説明された特徴量の集合が追加情報なしでモデルの予測を完全に正当化するのに十分かどうかを測定する指標。
ロバスト性スコア
敵対的攻撃や意図的な操作に対する説明の耐性を評価する指標で、敵対的な条件下での信頼性を保証する。
解釈性と性能のトレードオフ
モデルの複雑さ（性能）と生成される説明の質（解釈性）の間のトレードオフを定量化する指標。
説明の不確実性
生成された説明に関連する信頼度または不確実性のレベルを定量化する測定値で、それらの信頼性を評価するために不可欠。
反事実的妥当性
モデルの決定を説明するために生成された反事実的例の関連性と実現可能性を評価する指標。