AI用語集

📖

用語

TCAV

モデルの予測において人間が理解可能な概念の重要度を、概念活性化ベクトルを使用して定量化する手法

📖

用語

Probing Tasks

モデルの内部表現に対して訓練された分類タスクで、各層でどの言語情報が符号化されているかを発見するためのもの

📖

用語

Token Attribution

入力シーケンスの各トークンに個別の重要度スコアを割り当て、最終的な予測への貢献を定量化するプロセス

📖

用語

Neural Interaction Detection

隠れ層の活性化を分析することで、深層ネットワーク内の特徴間の非線形相互作用を検出する手法

📖

用語

BERT-Explainability

アテンションメカニズムと文脈表現の分析を含む、BERTモデルの決定を解釈するための特定の技術の集合

📖

用語

Transformer Visualization

アテンションパターンと潜在表現を含む、Transformerアーキテクチャの内部メカニズムを可視化するためのツールと技術

📖

用語

LRP-Epsilon

深層での再配分を安定化させ、ゼロ除算を避けるためにイプシロンルールを使用する関連性伝播の変種