AI用語集

📖

用語

アテンションマップ

意思決定プロセスにおいて、ニューラルネットワークモデルが入力の異なる部分に割り当てた注意の重みを表すグラフィカルな視覚化。

📖

用語

サリエンシーマップ

モデルの予測に対して最も影響力のある画像のピクセルや領域を示すヒートマップで、出力の入力に対する勾配を通じて計算される。

📖

用語

自己注意可視化

Transformerモデルにおけるシーケンス内の注意関係の視覚的表現で、各トークンが同じシーケンス内の他のトークンとどのように相互作用するかを示す。

📖

用語

クラス活性化マッピング

アーキテクチャの変更を必要とせず、最後の畳み込み層の情報を使用して識別的位置マップを生成する技術。

📖

用語

トークンレベルの注意

自然言語処理モデルにおける各トークンの個別レベルでの注意の重みの詳細な分析。

📖

用語

特徴属性

モデルの予測に対する個々の寄与を説明するために、入力特徴に重要度スコアを割り当てる定量的プロセス。

📖

用語

注意ヘッド重要度

マルチヘッドモデルにおける各注意ヘッドのシステム全体の性能への寄与を定量的に評価すること。