AI用語集
人工知能の完全辞典
安定性 (Stability)
類似のインスタンスや、わずかなデータ変化がある同じインスタンスに対して生成される説明の一貫性を測る指標。安定性が低いことは、ロバストでない説明や不安定なモデルを示唆する可能性がある。
不忠実度 (Infidelity)
説明モデルの勾配とブラックボックスモデルの勾配との乖離を定量化する指標。入力の変動に対するモデルの感度を説明が正確に捉える能力を測る。
説明の複雑さ (Explanation Complexity)
説明の簡潔さや分かりやすさを測る指標。多くの場合、ルール数、特徴量数、または非ゼロの項の数で評価される。複雑さが低いほど、人間による理解がしやすくなる。
ロバストネススコア (Robustness Score)
入力データに対する敵対的摂動に対する説明の変動を定量的に評価する指標。スコアが高いほど、説明が攻撃やノイズに対して強い耐性を持つことを意味する。
忠実度曲線下面積 (AUC-Fidelity)
近傍領域のサイズや使用される特徴量の数を関数として、忠実度曲線の下の面積を計算する集計指標。説明手法の全体的なパフォーマンスを比較するために用いられる。
局所的予測ギャップ (Local Prediction Gap)
特定のインスタンスにおいて、ブラックボックスモデルの予測と説明モデルの予測との絶対差。この指標は、局所的な近似の精度を評価する。
圧縮率 (Compression Rate)
元のモデルの特徴量数と、単純化された説明における特徴量数との比率。完全なモデルに対する説明の単純化の度合いを定量化する。
説明の一貫性 (Explanation Coherence)
同じクラスに属する異なるインスタンスや、近傍のインスタンスに対して生成される説明間の論理的な一貫性を測る指標。説明システム全体の一貫性を評価する。
説明損失関数
説明モデルのパラメータを最適化するために使用される数学的目的関数。通常、元のモデルへの忠実性と説明の複雑性をバランスさせます。
ノイズ感度
入力データにランダムノイズを追加した際の説明の変化を定量化する指標。信頼性の高い説明には低いノイズ感度が望ましいです。
説明の単調性
説明における特徴量の重要度が、入力値の単調な変化と一貫して変化するかどうかを測定する特性。説明の方向性の一貫性を保証します。
再構築誤差
説明が元のモデルの挙動を再構築する能力を評価する指標。通常、予測間の平均二乗誤差で測定されます。モデル蒸留ベースの手法で重要です。
選択性指標
与えられた予測に対して、説明手法が最も関連性の高い特徴量に集中する能力を定量化する測定値。高い指数はキー変数のより良い識別を示します。
正規化忠実度スコア
異なるモデルや説明手法間の比較を容易にするために0から1にスケーリングされた忠実度指標。説明の品質の標準化された評価を可能にします。
特徴量除去評価プロトコル
重要として識別された特徴量を除去またはマスキングした際のモデル性能への影響を測定することにより、説明の品質を評価する体系的な方法論。
完全性指標
特定の予測に寄与したすべての関連要因を説明が捉えているかどうかを測定する定量的評価。部分的または不完全な説明と対照的です。
説明の分散（Explanation Variance）
同じインスタンスに対して複数回実行した際に生成される説明の分散を測る統計的尺度。分散が低いことは、説明の再現性と信頼性に不可欠です。