AI用語集
人工知能の完全辞典
Diffusion Transformer
拡散反復プロセスにマルチヘッドアテンション機構を統合したハイブリッドアーキテクチャで、生成データの全体的な一貫性を向上させる。
U-ViT
U-Net接続を統合して拡散モデルにおけるマルチスケール特徴を効果的に組み合わせるVision Transformerの変種。
DiT (Diffusion Transformer)
拡散プロセスにおいて従来のU-Net畳み込みをTransformerブロックで置き換えるアーキテクチャで、時間埋め込みを条件付けに使用する。
Latent Diffusion Transformer
圧縮された潜在空間にTransformer機構を適用するモデルで、計算複雑性を低減しながら生成品質を維持する。
Cross-Attention Diffusion
ノイズと条件付き埋め込み間のクロスアテンション層を通じて、拡散モデルが外部条件に整合することを可能にする機構。
Transformer Denoiser
拡散の順方向・逆方向プロセスにおける各ノイズ除去ステップでノイズを予測する責任を持つTransformerベースのモジュール。
Patch Diffusion
データをパッチに分割し、拡散反復プロセスの前にTransformerアテンション機構で処理する技術。
Adaptive Layer Normalization
Diffusion-Transformerアーキテクチャにおいて、時間埋め込みによって条件付けされ、学習を安定化する正規化手法。
自己注意によるノイズ予測
拡散過程におけるノイズ予測において、長距離依存関係をモデル化するための自己注意機構の利用
トランスフォーマースコアマッチング
スコアベース拡散モデルにおける対数密度勾配（スコア）の推定へのトランスフォーマーアーキテクチャの応用
マルチスケールトランスフォーマー拡散
生成において細かい詳細と全体的な構造の両方を捉えるために、異なるスケールでトランスフォーマーを使用する階層的アプローチ
条件付き拡散トランスフォーマー
注意機構を通じて条件（テキスト、画像、クラス）をトランスフォーマー拡散過程に統合するアーキテクチャ
拡散における回転位置埋め込み
構造化データ内の空間的関係をより良く捉えるために、拡散トランスフォーマーモデルに適用される位置エンコーディング技術
拡散誘導トランスフォーマー
拡散過程がトランスフォーマーの注意を誘導し、構造化生成の一貫性と品質を向上させるモデル
スパーストランスフォーマー拡散
高解像度拡散モデルにおける計算複雑性を軽減するために疎な注意機構を使用する変種
トランスフォーマー潜在空間拡散
トランスフォーマーオートエンコーダーによって学習された潜在空間に適用される拡散過程による効率的な構造化データ生成
拡散を考慮した自己注意機構
反復的な拡散プロセスにおける現在のノイズレベルを考慮するように修正された自己注意メカニズム。
階層型トランスフォーマー拡散
トランスフォーマーが拡散を通じて徐々に洗練された表現を生成するマルチレベルアーキテクチャ。