AI用語集
人工知能の完全辞典
アンカー法 (Anchors)
特定のインスタンスに対するモデルの予測を高忠実度で説明する、単純かつ十分な決定ルール（アンカー）を特定する手法です。
シャプレー値
考えられるすべての連合（特徴の組み合わせ）にわたってプレイヤー（特徴）の限界貢献度の平均を測定するゲーム理論の概念で、SHAPの基礎として機能します。
入力摂動
モデルの予測への影響を観察するために入力データにわずかな変動を作成するプロセスで、LIMEなどの手法で局所的な近傍を構築するために使用されます。
忠実度
局所的な説明（LIMEの単純なモデルなど）がその近傍で複雑なモデルの動作をどれだけ忠実に模倣しているかを評価する指標です。
モデルに依存しない説明
予測モデルをブラックボックスとして扱い、その入力と出力のみを操作して説明を生成する解釈可能性アプローチです。
顕著性マップ
モデルの予測に最も影響を与えた入力のピクセルや特徴をハイライトする可視化で、通常、勾配計算によって取得されます。
カーネル近傍
LIMEでは、元のインスタンスと摂動されたインスタンス間の近接性を定義し、局所的説明モデルでの影響を重み付けする関数です。
説明ルール
特定の予測の主な理由を捉える単純な論理条件（例：IF feature_A > X AND feature_B < Y）で、Anchorsなどの手法に典型的です。
事後的解釈可能性
モデルの訓練後、その意思決定を理解するための分析。本質的に解釈可能なモデルとは対照的。
SHAPカーネルExplainer
Shapley値を推定するためにカーネル型の重み付けを使用するSHAPの実装。モデルに依存しないが、潜在的により遅い。
SHAPツリーExplainer
木ベースのモデル（XGBoost、LightGBMなど）に対して、Shapley値を非常に効率的に計算する最適化されたSHAPアルゴリズム。
サロゲートによる局所的説明
LIMEの基本原則。複雑なモデルの動作を局所的に近似するために、単純で解釈可能なモデル（サロゲート）を訓練すること。