AI用語集
人工知能の完全辞典
236
カテゴリ
3,245
サブカテゴリ
39,334
用語
用語
顕著性マップ
モデルの予測に対する各ピクセルまたは入力特徴の重要性を示すヒートマップで、出力の入力変動に対する感度を測定して計算される。
用語
特徴量可視化
特定のニューロンまたは層全体の活性化を最大化する合成入力を生成するプロセスで、各ニューロンが検出することを学習した内容を視覚的に理解できるようにする。
用語
活性化最大化
特定のニューロンまたは層を最も強く活性化する入力パターンを見つける最適化技術で、ネットワークが学習した抽象的な特徴を明らかにする。
用語
SmoothGrad
ノイズを加えた入力バージョンで計算された複数の顕著性マップを加算することで、視覚ノイズを低減し、解釈の明瞭性を向上させる顕著性マップの正則化技術。
用語
ガイド付き逆伝播
正の勾配のみを伝播させ、負の寄与を除去することで、重要な特徴のより鮮明な可視化を生成する逆伝播の変種。
用語
クラス活性化マップ（CAM）
最後の畳み込み層の特徴マップを最終分類層の重みで重み付けすることで、画像内の識別領域を特定する可視化手法。
用語
アテンション機構の可視化
Transformerモデルにおけるアテンションの重みをグラフィカルに表現し、意思決定プロセスにおいてモデルが入力の異なる部分間に確立する関係と依存性を明示的に示す。
用語
解釈可能性のためのニューラルネットワーク剪定
重要でない接続やニューロンを選択的に除去してモデル構造を簡素化しつつ性能を維持し、ネットワークの内部動作の理解を容易にするプロセス。
用語
概念活性化ベクトル（TCAV）
方向性活性化ベクトルを通じて予測がこれらの概念の存在に対してどの程度敏感であるかを測定することで、モデルの決定における人間が解釈可能な概念の重要性をテストするグローバル説明手法。
用語
ニューロンカバレッジ
テストセットによって活性化されるニューロンの割合を測定する解釈可能性評価指標。ネットワークのどの部分が実際に使用されているか、モデルがその処理をどのように分散しているかを示す。
🔍