AI用語集
人工知能の完全辞典
Co-Attention
双方向のメカニズムであり、2つのモダリティまたはシーケンスが相互に注意を向けてクロス相関を確立する。VQA（Visual Question Answering）などのマルチモーダルタスクで基礎的です。
Attention Pyramid Network
各階層レベルでアテンションメカニズムを統合し、情報の段階的集約を行うピラミッドアーキテクチャ。適応的アテンション重みによるマルチスケール特徴量の効率的な融合を可能にします。
Cascaded Attention
アテンション層の逐次的連鎖であり、ある層の出力が次の層に供給されて徐々に洗練されていきます。複数のアテンションステップを通じて複雑な依存関係の精緻なモデリングを可能にします。
Hierarchical Feature Learning
ピクセル/トークンから高レベルの概念まで、複数の抽象化レベルで特徴量を抽出するプロセス。階層的アテンションと自然に統合され、データの構造化表現を提供します。
Multi-Level Attention Fusion
適応的重み付けによって、異なる階層レベルのアテンションメカニズムの出力を組み合わせる技術。マルチスケールの文脈情報を統一された表現に最適化して統合します。
Hierarchical Self-Attention
自己アテンションの拡張であり、トークンやセグメントの階層的グルーピングに再帰的に適用されます。構造化文書における長距離依存関係の効率的なモデリングを可能にします。
Global-Local Attention
シーケンス全体に対するアテンションとローカルセグメントに焦点を当てたアテンションを組み合わせたハイブリッドアーキテクチャ。グローバルな文脈と細部の詳細の知覚を効果的にバランスさせます。
Hierarchical Cross-Attention
クエリの階層がキー/値の階層に注意を向けてマルチレベルの相互作用を行うメカニズム。階層構造を持つ翻訳や生成タスクで不可欠です。
ピラミッド注意モジュール
計算効率のため、徐々に縮小される率を持つ注意ピラミッドを統合した特定のモジュール。ビジョン変換器モデルにおける性能とコストの比率を最適化します。
階層的注意ネットワーク
構造化データ処理のため、階層的注意メカニズムの積み重ねに基づいた完全なアーキテクチャ。感情分析と文書分類の先駆者です。
マルチ粒度注意
異なるデータ粒度（単語、フレーズ、段落）に同時に注意を適用するアプローチ。複数の意味論的レベルでテキストのニュアンスのある理解を可能にします。
階層的注意ルーティング
注意スコアに基づいて、階層を通して情報を動的に誘導するメカニズム。木構造を持つ深層ニューラルネットワークにおいて情報フローを最適化します。