AI用語集
人工知能の完全辞典
236
カテゴリ
3,245
サブカテゴリ
39,334
用語
サブカテゴリ
アテンションメカニズム
モデルがシーケンスの異なる部分の重要性を動的に重み付けすることを可能にする基本的な概念。
2 用語
サブカテゴリ
Transformerアーキテクチャ
再帰型ネットワークなしで、純粋に注意機構に基づいた革命的なニューラル構造。
2 用語
サブカテゴリ
マルチヘッド注意
異なる表現で同時に複数の位置に焦点を当てることを可能にする注意メカニズムの拡張
4 用語
サブカテゴリ
ポジショナルエンコーディング
シーケンス内の位置情報をエンコードし、再帰性の欠如を補償する手法。
14 用語
サブカテゴリ
BERT
自然言語理解のための事前学習済み双方向Transformerモデル
1 用語
サブカテゴリ
GPT
テキスト生成と転移学習のために最適化された自己回帰型Transformerモデルシリーズ
1 用語
サブカテゴリ
ビジョントランスフォーマー
コンピュータービジョンタスクのために画像をシーケンスとして処理することにより、トランスフォーマーアーキテクチャを適応させること。
3 用語
サブカテゴリ
スケールドドット積注意
次元の平方根による正規化を伴う注意メカニズムの効率的な数学的実装
6 用語
サブカテゴリ
階層的Transformers
階層的関係を持つ構造化データを処理するためのマルチスケールTransformerアーキテクチャ
17 用語
サブカテゴリ
効率的なトランスフォーマー
計算量を二次から線形に削減するトランスフォーマーの最適化バリアント
1 用語
サブカテゴリ
オーディオトランスフォーマー
トランスフォーマー・アーキテクチャの音声信号処理への応用：音声認識と音楽生成
11 用語
サブカテゴリ
マルチモーダルトランスフォーマー
テキスト、画像、音声、ビデオなどの複数のモダリティを同時に統合するトランスフォーモデル。
7 用語
サブカテゴリ
セルフアテンション
シーケンスの各要素が、同じシーケンス内の他のすべての要素と相互作用することを可能にするメカニズム。
0 用語
サブカテゴリ
クロスアテンション
異なる2つのシーケンス間の注意機構。翻訳およびマルチモーダルタスクにおいて基本的な要素。
12 用語
サブカテゴリ
スパースアテンション
計算量を削減するために重みを選択的に計算するアテンションの変種。
6 用語
🔍