AI用語集

📖

用語

バニラ勾配

入力に対する出力の勾配を計算してサリエンシーマップを生成する基本的な手法。シンプルだが、深層ネットワークではノイズや勾配の飽和に悩まされることが多い。

📖

用語

Grad-CAM++

Grad-CAMの改良版で、高次元の重み付き勾配を使用してピクセルの関連性をより正確に捉える。特に画像内の複数オブジェクトに対してより精密な位置特定を生成する。

📖

用語

入力摂動

入力に摂動を加えた際の出力変化を観察することで特徴量の重要性を評価する解釈可能性手法。勾配はこれらの摂動を導き、より効率的な分析を可能にする。

📖

用語

テイラー分解

テイラー級数分解を用いて各特徴量のモデル出力への寄与を近似する数学的アプローチ。勾配ベースの帰属手法に対して強固な理論的根拠を提供する。

📖

用語

勾配フローの可視化

ネットワーク層を通る勾配の流れを追跡し、情報がどのように伝播するかを理解する技術。深層アーキテクチャにおける勾配消失や爆発の問題を特定するのに役立つ。

📖

用語

対照的説明

勾配を使用して関連する特徴量（関連事実）だけでなく、存在すべきだった特徴量（最小摂動）も特定する手法。モデルの決定理由についてより包括的な視点を提供する。