AI用語集
人工知能の完全辞典
特徴量相互作用の強さ
予測モデルにおいて、2つ以上の特徴量間の相互作用効果の強さを定量化する指標。相互作用は、特徴量の個別の効果の合計と結合された効果との差によって測定されます。
フリードマンのH統計量
モデルの予測の部分分散に基づいた、特徴量間の相互作用の定量的な測定値。H統計量は0（相互作用なし）から1（強い相互作用）までの範囲で変動し、ペア相互作用や高次の相互作用に対して計算することができます。
安定性指標
入力データのわずかな変化に対して、解釈手法によって生成される説明の一貫性を測定する指標。高い安定性は、類似したインスタンスに対して説明が不安定に変動しないことを保証します。
理解容易性指数
人間が説明やモデルを理解しやすさを評価する複合スコア。構文の複雑さ、語彙のサイズ、論理構造などの要因に基づいています。この指数は、読みやすさに関する客観的および主観的なメトリクスを組み合わせています。
解釈可能性と精度のトレードオフ
モデルの人間による解釈可能性と、その生の予測性能との間の逆比例関係。このトレードオフは、アプリケーション領域の要件に応じて最適なバランスを見つけるための様々なメトリクスによって定量化されます。
事後説明可能性スコア
モデルの訓練後に生成された説明の品質を定量的に評価したもので、忠実度、安定性、理解容易性を組み合わせています。この複合スコアにより、同一モデル上で異なる説明技術を比較することができます。
本質的解釈可能性指標
外部の説明ではなく、アルゴリズム構造に基づいて、モデルに内在する解釈可能性の度合いを評価する指標。この尺度は、モデルの線形性、単調性、スパース性などの要因を考慮します。
局所忠実度指標
あるインスタンスの近傍において、局所的な説明がモデルの挙動を忠実に表現する能力の精度を測定する指標。このメトリクスは、LIMEやAnchorsなどの手法で使用される局所近似の妥当性を評価します。
説明カバレッジ
説明手法が有効かつ一貫性のある解釈を生成できるデータセットの割合。カバレッジは、解釈手法の汎化性と、特徴空間の異なる領域への適用可能性を測定します。
ルールベース解釈可能性スコア
ルール数、平均長、重複に基づいて説明の品質を評価する、ルールベースのモデルに特有のメトリクス。このスコアは、簡潔で、冗長性がなく、理解しやすいルールセットを重視します。
整合性指標
同一または類似の予測を持つインスタンスに対して、類似した説明が生成されるかどうかを評価する指標。整合性は、決定空間の異なる領域にわたって説明への信頼を維持するために重要です。