AI用語集
人工知能の完全辞典
236
カテゴリ
3,245
サブカテゴリ
39,334
用語
用語
ALiBi (線形バイアス付きアテンション)
ポジショナルエンコーディングの代替手法で、トークン間の距離を表現するためにアテンションスコアに直接線形バイアスを適用します。
用語
分離アテンション
アテンションスコアの計算において、コンテンツと位置の寄与を明示的に分離するアテンションメカニズム。
用語
マルチスケール位置エンコーディング
シーケンスのローカルな構造とグローバルな構造の両方を捉えるために、複数のスケールの位置表現を組み合わせるアプローチ。
用語
位置ドロップアウト
モデルが位置情報に過剰に依存するのを避けるために、位置埋め込みに特化して適用される正則化技術。
🔍