AI 詞彙表
人工智能完整詞典
层次变分自编码器 (HVAE)
扩展的VAE架构，具有按层次组织的多个潜在变量层，用于捕获多尺度表示。通过层级之间的条件依赖关系，允许对复杂结构进行更精细的建模。
层次潜在变量
组织成层的潜在变量集合，其中每一层捕获内容的不同抽象。上层对全局结构进行建模，而下层捕获精细细节。
自底向上推理网络
自底向上穿过VAE层次层处理输入数据的推理网络。每一层使用来自下层的信息计算对应潜在变量的分布参数。
自顶向下生成网络
从上层向下层对潜在变量进行采样以重建数据的生成网络。实现条件生成，其中每一层依赖于上层的样本。
阶梯VAE (Ladder VAE)
HVAE的特定变体，在推理层和生成层之间具有横向连接。使用组合的向上和向下传递来改善后验估计和重建质量。
随机深度
正则化技术，其中某些层次连接在训练期间被随机禁用。通过强制网络在不同的抽象层次上学习鲁棒的表示来改善泛化能力。
层次ELBO
适应层次结构的证据下界，具有针对每个潜在层的KL散度项。包括根据潜在变量层次加权的重建项。
后验崩塌
推理网络忽略潜在变量并产生等于先验的退化后验的现象。在具有许多层次层的HVAE中尤其成问题。
多级摊销推断
一种优化策略，其中共享单个神经网络来估计所有层级上的后验参数。在保持表达能力的同时降低了计算复杂度。
全局和局部潜在变量
HVAE 中对捕获全局属性（风格、类别）的变量与局部变量（具体细节）的区分。全局变量通常位于层次结构的较高级别。
KL 散度退火
一种训练技术，其中 KL 散度项的权重逐渐增加。这在 HVAE 中至关重要，用于避免后验坍塌，并在重建和正则化之间实现平衡的学习。
分层跳跃连接
层次结构中非相邻层级之间的直接连接，用于保留梯度并提高稳定性。促进了细粒度和抽象表示之间的信息流。
多尺度重参数化技巧
标准重参数化技巧在具有多层采样的分层架构中的扩展。需要对贯穿整个随机链的梯度进行协调管理。
分解后验
一种后验近似，其中每一层的潜在变量在给定较低层级的情况下是条件独立的。在简化推断的同时允许复杂的层次依赖关系。
分层密集连接
一种架构，其中层次结构的每一层都接收所有先前层级的拼接作为输入。最大化了信息流并促进了丰富表示的学习。