AI用語集
人工知能の完全辞典
反実仮想分析
インタープリタビリティ手法の一つで、モデルの予測を望ましい出力に変更するためにインスタンスの特徴に対して行うべき最小限の変更を特定し、「もし〜なら」という仮想的なシナリオを作成する。
対立に基づく説明
ある予測を別の妥当な予測と対比させることで説明する技術で、モデルがある選択肢を他の選択肢ではなく選んだ理由を裏付ける特徴を強調する。
アンカールール (Anchors)
特定のインスタンス周辺でモデルの予測を「固定」する条件付きルール形式の局所的な説明で、これらのルールで定義された近傍内で予測が変更されないことを保証する。
ペア対比説明
2つの異なるインスタンス（多くは正しい予測と間違った予測）を直接比較することで説明を生成するアプローチで、モデルの決定における決定的な要因を分離する。
複数の反実仮想シナリオ
単一の予測に対して多様な反実仮想的な説明のセットを生成し、代替経路と異なる結果に到達する方法のより豊かな視点を提供する。
実行可能な反実仮想空間
インスタンスの特徴に対する可能な変更の集合で、現実世界で実現可能かつユーザーに関連するものであり、反実仮想的な説明の生成を妥当なシナリオに制約する。
差分に基づく診断
2つのコンテキストまたはデータセット間（例：ドリフトの前後）でモデルの動作の差異を分析し、意思決定ロジックの変化を理解する方法。
プロトタイプケースによる説明
予測を予測されたクラスの最も代表的なケース（プロトタイプ）と対比させることで説明する技術で、インスタンスをこのプロトタイプに近づけたり遠ざけたりする特徴を強調する。
比較感度分析
特定のインスタンスに対するモデルの予測が、その特徴量の変化にどう反応するかを測定する評価で、この反応を他のインスタンスや基準ケースと比較するものです。
モデル置換による説明
複雑なモデル（ブラックボックス）の決定を、同じ局所的近傍で学習されたより単純で解釈可能なモデル（例：決定木）の決定と比較することで解釈するアプローチです。
基準からの逸脱マップ
データの「正常」または期待される分布から著しく逸脱するインスタンスの特徴量を強調表示する可視化手法で、なぜその予測が非典型的であるかを説明します。
対照的事例推論
法的推論に触発された説明方法論で、決定を類似しているが異なる結果を持つ過去のケースと比較することで正当化し、「決定要因」を特定します。
排除基準による説明
モデルが特定のクラスを選択しなかった理由を、決定プロセスでそのオプションの排除に積極的に寄与した特徴量を特定することで説明する技術です。
対照的決定境界分析
モデルによって予測された2つのクラス間の境界を定義する特徴量の検討で、この境界に近いインスタンスに焦点を当てて切り替え要因を理解します。
予測反転による説明
モデルの予測（例：「拒否」から「承認」へ）を反転させ、必要な特徴量の変化を分析するプロセスで、元のインスタンスに何が欠けているかについての説明を提供します。
帰属プロファイルの比較
2つのインスタンスまたはインスタンスグループ間で特徴量の重要度プロファイル（SHAP、LIMEなどで生成）を比較し、モデルの論理における微妙な違いを明らかにする方法です。
逆シナリオによる説明
元のインスタンスに近いが、非常に不利な予測につながる'最悪のケース'シナリオを生成し、モデルの決定の頑健性と弱点を理解するのを支援する。