AI用語集
人工知能の完全辞典
モデル非依存
モデルのアーキテクチャや内部パラメータに関する知識を必要とせず、任意の予測モデルで機能する説明アプローチ。モデル非依存の手法はモデルをブラックボックスとして扱い、その入力と出力のみに基づく。
局所説明
モデルの全体的な振る舞いではなく、特定のインスタンスに対するモデルの予測を説明する解釈。局所説明は、特定の決定がなぜ行われたかを理解するのに特に有用である。
データ摂動
元のインスタンスにわずかな変動を加えて合成された近傍データセットを生成する技術。LIMEでは、これらの摂動が局所的な単純モデルの学習データセットを構築するために使用される。
特徴量の重み
特定の予測において各特徴量の相対的な重要性を示す定量的な尺度。これらの重みにより、特定の予測に最も影響を与える要因を特定できる。
予測近傍
特徴量空間内で元のインスタンスに近いデータポイントの集合で、局所的な単純モデルの学習に使用される。この近傍の定義は、生成される説明の関連性にとって重要である。
代理モデル
複雑なモデルの振る舞いを局所的に近似する、単純で解釈可能なモデル（線形回帰や決定木など）。このモデルは摂動データで学習され、説明を生成する。
説明の忠実度
局所的な単純モデルが、考慮された近傍内で複雑なモデルの予測をどの程度正確に再現するかを測る尺度。高い忠実度は、説明が元のモデルの振る舞いを忠実に表現していることを保証する。
セグメント
LIMEにおいて画像やテキストの予測を説明するために使用される、連続したデータ領域。セグメントは、より一貫性のある説明のために隣接するピクセルや単語をグループ化することを可能にする。
スーパーピクセル
類似した特性（色、テクスチャ、強度）を共有する隣接ピクセルのグループで、LIMEにおける画像説明の基本単位として使用される。スーパーピクセルは計算の複雑さを軽減しながら、関連する視覚情報を保持する。
関連性スコア
各特徴またはセグメントに割り当てられる数値で、局所的な予測への影響を示す。このスコアにより、モデルの意思決定において最も重要な要素を優先順位付けできる。
類似性カーネル
元のインスタンスと摂動されたインスタンス間の特徴空間における近接性を定義する数学関数。このカーネルは局所モデルの学習におけるデータ点の重要性に重みを付ける。
反事実的説明
特定の特徴が変更された場合に予測がどのように変化するかを示す説明のタイプ。LIMEを補完するこのアプローチは、異なる予測を得るために必要な条件を理解するのに役立つ。
説明の安定性
類似インスタンスや複数実行において生成される説明の一貫性を測定するもの。良好な安定性は生成される説明への信頼性に不可欠である。
影響範囲
局所説明が有効であり、複雑なモデルの動作に忠実である特徴空間内の領域。この範囲の決定は説明の適用範囲を評価する上で重要である。
説明の複雑さ
局所説明で使用される特徴またはセグメントの数で、解釈可能性を維持するためにしばしば制限される。効果的な説明のためには、忠実度と単純さの間の妥協点を見つける必要がある。
ヒートマップ
モデルの予測において画像の異なる領域の重要性を空間的に表現する可視化。LIMEでは、ヒートマップは関連性スコアを使用して影響力のある領域を強調する。