AI用語集
人工知能の完全辞典
決定木の可視化
モデルの決定経路を解釈するための、決定ノード、条件分岐、結果の葉を示す樹形図によるグラフィカル表現。
特徴量重要度プロット
モデルの予測に対する各入力変数の相対的な影響力を定量化し、決定要因の特定を容易にする順序付き棒グラフ。
SHAPサマリープロット
SHAP値と特徴量重要度を組み合わせ、データセット全体を通じて各特徴量が予測に与える方向性のある影響を明らかにするグラフ。
クラス活性化マップ
CNNの特徴マップに重み付けを行い、モデルが画像内の特定クラスを識別する際に注目する空間的位置を示す可視化。
特徴量相互作用プロット
ある特徴量の予測への効果が他の特徴量の値に応じてどのように変化するかを示す3D可視化またはヒートマップ。
反事実的可視化
モデルの予測を変更するために必要な入力データの最小限の変更をグラフィカルに表現し、決定閾値の理解を支援するもの。
モデル非依存的可視化
PDPやLIMEなどのように、内部パラメータへのアクセスを必要とせず、あらゆるタイプのモデルで機能する普遍的な視覚的技術による一般化された解釈可能性。
アテンション可視化
モデルが学習した関係性を明らかにするため、入力データの異なる部分（文内の単語、画像内の領域）間のアテンション重みを示すグラフ。
勾配ベースの説明
最終予測に対する各特徴量の影響を定量化し表示するために、入力に対する出力の勾配を使用した可視化手法
決定フローチャート
モデルの意思決定ステップを順次表現するフローチャートで、プロセス、決定、結果を標準化された記号で示す図表
信頼区間の可視化
予測値周辺の信頼区間を示すグラフで、モデルの不確実性と意思決定の信頼性を表現するもの
ルール抽出の可視化
複雑なモデル（ブラックボックス）から抽出された論理ルールを、解釈可能な図表や決定表としてグラフィカルに表現する手法
インスタンスベースの説明
特定の予測に対して、影響力のある特徴量とその決定に至った類似事例を示す個別カスタマイズされた可視化
グローバル vs ローカルの説明
モデルの全体的な振る舞いを示すグローバル説明と個別予測を示すローカル説明を視覚的に比較し、一貫性と異常を特定する手法
ツリーインタープリター
決定木の各予測を個々の特徴量の寄与に分解し、各変数が最終結果にどのように影響するかを示す可視化ツール