AI用語集
人工知能の完全辞典
Hierarchical Variational Autoencoder (HVAE)
複数の階層的に組織化された潜在変数レベルを持つ拡張VAEアーキテクチャ。複数スケールの表現を捕捉し、レベル間の条件依存関係を通じて複雑な構造のより細かいモデリングを可能にする。
Latent Variables Hiérarchiques
各レベルがコンテンツの異なる抽象化を捕捉する層状に組織化された潜在変数の集合。上位レベルは大域構造をモデル化し、下位レベルは微細な詳細を捕捉する。
Bottom-up Inference Network
入力データをVAEの階層的層を通じて下から上に処理する推論ネットワーク。各レベルは下位レベルの情報を使用して対応する潜在変数の分布パラメータを計算する。
Top-down Generative Network
データを再構築するために上位レベルから下位レベルへ潜在変数をサンプリングする生成ネットワーク。各レベルが上位レベルのサンプルに依存する条件付き生成を実装する。
Ladder VAE
推論レベルと生成レベル間に横方向の接続を持つHVAEの特定の変種。上方パスと下方パスを組み合わせて事後分布の推定と再構成品質を改善する。
Stochastic Depth
学習中に特定の階層的接続をランダムに無効化する正則化技術。異なる抽象化レベルに対して頑健な表現を学習させることで汎化性能を向上させる。
ELBO Hiérarchique
各潜在レベルに対するKLダイバージェンス項を持つ階層構造に適応したエビデンス下界。潜在変数の階層に応じて重み付けされた再構成項を含む。
Posterior Collapse
推論ネットワークが潜在変数を無視し、事前分布と等しい退化した事後分布を生成する現象。多数の階層レベルを持つHVAEで特に問題となる。
マルチレベル償却推論
単一のニューラルネットワークを共有して、すべての階層レベルにおける事後パラメータを推定する最適化戦略。表現力を維持しながら計算複雑性を低減する。
グローバル潜在変数とローカル潜在変数
HVAEにおける、グローバル特性(スタイル、カテゴリ)を捉える変数とローカル特性(特定の詳細)を捉える変数の区別。グローバル変数は通常、階層の上位レベルに存在する。
KLダイバージェンスアニーリング
KLダイバージェンス項の重みを徐々に増加させる学習技術。HVAEにおいて、事後崩壊を回避し、再構成と正則化のバランスの取れた学習を可能にするために不可欠。
階層的スキップ接続
階層内の隣接しないレベル間の直接接続。勾配を保持し安定性を向上させる。詳細な表現と抽象的な表現間の情報フローを促進する。
マルチスケール再パラメータ化トリック
標準的な再パラメータ化トリックを、複数レベルでのサンプリングを伴う階層的アーキテクチャに拡張したもの。確率的連鎖全体にわたる勾配の調整された管理を必要とする。
分解された事後分布
各レベルの潜在変数が下位レベルを条件として条件付き独立である事後分布の近似。複雑な階層的依存関係を可能にしながら推論を簡素化する。
階層的密接続
階層の各レベルが、すべての前レベルの連結を入力として受けるアーキテクチャ。情報フローを最大化し、豊富な表現の学習を容易にする。