AI 詞彙表
人工智能完整詞典
吉布斯采样器
Metropolis-Hastings算法的一种特例,其中每个新值都从一个变量的全条件分布中采样,该条件基于所有其他变量的当前值。
预热期 (Burn-in)
MCMC模拟的初始阶段,此阶段的样本被丢弃,以允许马尔可夫链达到其平稳分布并摆脱其起始点的影响。
哈密顿蒙特卡洛 (HMC)
一种先进的MCMC算法,它利用哈密顿力学来提出远距离跳跃,同时保持高接受率,从而减少了与随机游走方法相比的自相关性。
随机游走
Metropolis-Hastings算法中的一种提议策略,新状态是当前状态加上一个随机扰动,对于高维分布通常效率低下。
收敛性诊断
一系列统计和可视化技术(例如:Gelman-Rubin的$\bar{R}$统计量、轨迹图),用于评估一个或多个MCMC链是否已达到其平稳分布。
有效样本量 (ESS)
在自相关的MCMC链中,等效的独立样本数量,通过将总迭代次数除以一个自相关因子来计算。
提议分布
在Metropolis-Hastings算法中,用于从当前状态$x$生成候选状态的条件分布$q(x'|x)$,其选择会影响探索的效率。
接受准则
Metropolis-Hastings算法中的一种概率性规则,用于决定接受或拒绝一个提议状态,其依据是目标分布与提议分布的密度比。
非周期性
马尔可夫链的性质,确保它不会陷入确定性周期循环,这是保证收敛到唯一平稳分布的必要条件。
不可约性
马尔可夫链的性质,确保从任何状态都可以在有限步骤内以非零概率达到空间中的任何其他状态。
稀疏化(细化)
后仿真技术,只保留每k个样本中的一个,以减少自相关和存储负担,尽管其有效性常有争议。
切片采样
MCMC方法,通过引入辅助变量('切片')并均匀探索该切片定义的子空间来从目标分布中采样。
积分时间
在HMC中,控制哈密顿系统在Metropolis提议前模拟持续时间的参数,影响在参数空间中行进的距离。
质量矩阵
在HMC中,定义动量空间度量的矩阵,其调整(通常设置为后验协方差矩阵的对角线)对算法效率至关重要。
集合采样
一类MCMC算法(如仿射不变算法),使用多个并行游走器探索空间,在多模态或强相关分布上提高性能。