AI用語集
人工知能の完全辞典
個別部分依存プロット (ICE)
各観測値の予測を特定の特徴量に対してプロットするグラフィカル表現で、PDPが隠してしまう効果の異質性を明らかにします。
シャプレイ図
特定の予測に対する各特徴量の寄与を可視化するもの。ゲーム理論のシャプレイ値に基づき、インパクトの公平な配分を保証します。
SHAPグローバル重要度プロット
モデルの予測の大きさに対する平均的なインパクトで特徴量をランク付けする棒グラフ。SHAP値の平均絶対値を計算することで算出されます。
SHAPビースワーム図
特徴量の重要度とその影響を組み合わせた可視化。各点は予測に対するSHAP値で、特徴量軸上に配置され、特徴量の値によって色分けされます。
SHAP相互作用プロット
特徴量間の相互作用効果を強調する可視化。ある特徴量が予測に与える影響が、他の特徴量の値にどう依存するかを示します。
LIMEヒートマップ
LIME法に従い、モデルの局所的な予測に最も貢献したセグメントや単語を強調表示する、入力データ（画像やテキストなど）上の視覚的オーバーレイ。
サロゲート決定木
複雑なモデル（ブラックボックス）の挙動を模倣するように訓練された単純な決定木の可視化。モデルの決定ルールの大まかな全体的解釈を提供します。
ALEコンタープロット
1対の特徴量に対する局所的累積効果（ALE）の2次元可視化。等高線を使用して、予測がこれら2つの特徴量の空間でどのように変化するかを示します。
重要度置換図
特徴量の値をランダムに入れ替えたときのモデルの性能低下を測定し表示する棒グラフで、その予測的重要性を示す。
解釈可能性学習曲線
解釈可能性モデル（サロゲートなど）の性能をデータ量または許容される複雑さの関数としてプロットするグラフで、忠実性-解釈可能性のトレードオフを評価するのに役立ちます。
反実的可視化
モデルの予測を変更する変更された（反事実的）バージョンと元のインスタンスを比較し、変更された特徴をハイライトするグラフィカル表現。
サロゲート忠実性プロット
近似の品質を評価するために、サロゲートモデル（解釈可能）の予測を元のモデル（ブラックボックス）の予測と比較する散布図または曲線。
アンカー規則図
ローカルな説明のために、予測を十分に保証する一連の条件（アンカー）を階層リストまたはフローダイアグラムの形式で提示する可視化。
勾配顕著性マップ
各ピクセルの強度がそのピクセルに関するモデル出力の勾配の大きさに比例し、その影響を示す入力画像のピクセルに重ね合わせたヒートマップ。
木深さプロット
木ベースのモデル（Random ForestやXGBoostなど）における葉の深さの分布を示し、モデルの複雑さと構造についての洞察を与えるヒストグラムまたは棒グラフ。
決定経路可視化
観測値が決定木または木の森のノードを通じて最終的な予測に至るまでの特定の経路のグラフィカル表現。
ノード貢献グラフ (Node Contribution Plot)
勾配ブースティングモデルにおいて、最終的な予測を各木の各葉の貢献に分解し、各ノードが予測をどのように調整するかを示す可視化手法。