AI用語集

📖

用語

顕著性マップ (セイリアンスマップ)

ディープラーニングモデルの予測に最も大きな影響を与える入力のピクセルまたは特徴を可視化するヒートマップ。

📖

用語

出力勾配

モデルの出力を各入力ピクセルに関して勾配を計算し、最終的な予測に対する影響を定量化する手法。

📖

用語

Score-CAM（スコアCAM）

勾配を使用せず、各アクティベーションマップをアップスケーリングしてネットワークに通すことでその重要度を評価するGrad-CAMの変種。

📖

用語

FullGrad（フルグラッド）

ニューラルネットワークの出力を各ニューロンとバイアスの貢献度に分解し、勾配に敏感な完全な説明を提供する帰属手法。

📖

用語

入力勾配

出力の入力に対する勾配を各ピクセルまたは特徴の顕著性の直接的な尺度として使用する説明可能性手法。

📖

用語

摂動ベース分析

入力データに体系的な変更を導入し、出力への影響を測定することで特徴の重要度を評価する手法群。

📖

用語

RISE（説明のためのランダム入力サンプリング）

複数のマスクで入力をランダムにマスキングし、予測を集約して各領域の重要度を推定することで説明を生成する手法。