人工知能の完全辞典
ディープニューラルネットワーク向けのアトリビューション手法で、各ニューロンの活性化を参照値と比較して特徴量の寄与を計算する。
個別の予測（局所）を説明する説明可能性と、データセット全体に対するモデルの一般的な挙動（大域）を記述する説明可能性の区別。
2つ以上の特徴量間の相乗的な依存関係の尺度であり、予測に対するそれらの結合効果が個々の効果の合計とは異なる状態を指す。