AI用語集

人工知能の完全辞典

236

カテゴリ

3,245

サブカテゴリ

39,334

用語

データセット全体にわたるSHAP（SHapley Additive exPlanations）値の集計により、各特徴量がモデルの出力に与える平均的な影響を判断し、理論的に根拠のある一貫した特徴量の重要度を提供する方法です。

LIME（Local Interpretable Model-agnostic Explanations）の拡張版で、複数の局所的インスタンスをサンプリングし、それらの説明を組み合わせることでグローバルで解釈可能なモデルを作成し、モデルの全体的な傾向を明らかにすることを目的とします。

モデルの複雑さや基礎となるアルゴリズムに関係なく、内部パラメータへのアクセスを必要とせずにモデルの全体的な動作を説明するために適用できる一連の解釈技術です。

モデル出力の分散を各特徴量の主効果とその相互作用に割り当てる分散分解法で、変数の寄与に関する階層的な全体的な視点を提供します。

深層ニューラルネットワークのための解釈手法で、データセット全体にわたる各ニューロン/活性化の寄与を集約し、基準からの差に基づいてグローバルな重要度スコアを計算します。

データセット全体に統合勾配法を適用して平均的な特徴量アトリビューションを取得し、モデルの予測に対して最も大きな累積的影響を持つ変数を全体的に明らかにします。

🔍