AI用語集
人工知能の完全辞典
アンカー
高精度のIF-THENルール（アンカー）を特定する局所的な説明手法で、予測を局所的に固定し、カバーされていない特徴の変更が予測に影響しないことを保証する。
反実仮想説明
入力特徴をどのように変更すれば異なる予測が得られるかを示す最小限の仮想シナリオを生成する手法で、モデルの決定境界を説明する。
局所代理モデル
複雑なモデルの挙動を特定の予測の近傍でのみ近似するように訓練された簡略化されたモデルで、局所的に解釈可能な説明を提供する。
LRP（階層的関連性伝播）
ニューラルネットワークの最終予測を各層を通じて入力特徴まで逆伝播させる手法で、個々の特徴の貢献度を定量化する。
DeepLIFT
ディープニューラルネットワークのための関連性帰属手法で、各ニューロンの活性化を参照状態と比較し、勾配ではなく差分によって貢献度を計算する。
統合勾配
ベースライン参照から現在の入力までの経路に沿って勾配を積分する帰属手法で、感度性や実装不変性などの公理特性を保証する。
オクルージョン感度
入力の領域を体系的にマスクし、予測への影響を観察する局所的な説明手法で、モデルの決定に重要な領域を特定する。
影響関数
特定の訓練データ点が変更された場合にモデルのパラメータと予測がどのように変化するかを推定する解析手法で、予測に影響を与えるデータを特定する。
ICE（個別条件付き期待値）
ある特徴量の値が変化した際に、個々の観測値に対するモデルの予測がどのように変化するかを可視化する手法。異質性効果や相互作用を明らかにする。
カーネルSHAP
すべての提携を列挙することなくシャプレー値を推定するためにカーネルアプローチを使用するSHAPの変種。任意の機械学習モデルに適用可能。
ツリーSHAP
ツリーベースのモデルに特化して最適化されたSHAPの実装。木構造を活用して多項式時間で正確なシャプレー値を計算する。
局所的忠実度
局所的な説明モデルが、特定のインスタンスの近傍で元のモデルの予測をどの程度正確に再現するかを評価する指標。説明への信頼性において重要。
特徴量摂動
入力特徴量を体系的に変更して予測の変化を観察する局所的分析手法。特定の決定に対して最も敏感な特徴量を特定する。
局所的特徴量帰属
各特徴量が特定の予測にどの程度寄与しているかを定量化するプロセス。データセット全体を考慮するグローバルな重要度とは異なる。
決定境界可視化
特定の予測周辺でモデルがどのようにクラスを分離しているかを示すグラフィカルな手法。局所的な決定メカニズムと予測の頑健性の理解を助ける。
局所線形近似
非線形モデルを予測点周辺で単純な線形モデルによって局所的に近似する手法。複雑な決定の解釈を容易にする。
局所的順列重要度
データセット全体ではなく、特定の予測に対する各特徴量のランダム化の影響を評価する順列重要度の変種。