AI 詞彙表
人工智能完整詞典
贝叶斯模型平均 (BMA)
一种统计方法,通过根据多个模型的后验概率对它们进行加权来组合预测,从而在最终预测中考虑模型的不确定性。
后验模型概率
在观测数据后,某个模型是生成数据的真实模型的概率,通过贝叶斯定理结合模型的似然性和先验概率计算得出。
模型证据
特定模型下数据的边际似然性,通过对模型的所有参数进行积分获得,用于在贝叶斯框架中比较不同的模型。
奥卡姆窗口
BMA中的模型选择技术,排除相对于观测数据过于复杂的模型,只保留在合理复杂度窗口内的模型。
贝叶斯模型选择
基于竞争模型的后验概率在它们之间进行选择的过程,通过奥卡姆原理自动整合对模型复杂性的惩罚。
先验模型概率
在观测数据前分配给模型的概率,反映了对不同候选模型相对可能性的先验信念。
预测分布
对参数和模型不确定性进行整合的未来观测概率分布,通过对每个模型的预测分布进行加权平均获得。
贝叶斯集成
使用贝叶斯原理聚合多个模型的预测,将它们组合成一个根据可信度加权的最终预测的方法。
加权平均预测
在BMA框架下,通过对各个模型的单个预测进行平均得到的最终预测,权重为它们的后验概率。
贝叶斯信息准则(BIC)
在贝叶斯方法中近似模型后验概率的模型选择准则,通过惩罚模型复杂度来避免过拟合。
狄利克雷过程
用于非参数贝叶斯模型的随机过程,允许混合模型中有无限数量的分量,便于模型平均。
分层贝叶斯模型
模型结构中参数本身具有带有自己超参数的先验分布,允许在BMA中在相似模型之间共享信息。
马尔可夫链蒙特卡洛模型组合(MC3)
探索模型空间以估计模型选择和模型平均问题中模型后验概率的采样算法。
可逆跳转MCMC
MCMC算法的扩展,允许在不同维度的参数空间之间移动,对于可变复杂度模型的贝叶斯推理至关重要。
贝叶斯因子
两个竞争模型证据的比率,量化在贝叶斯框架下数据对某个模型相对于另一个模型的支持程度。
预测后验
对未来观测值的预测分布,整合了参数和模型的不确定性,是BMA进行鲁棒预测的基石。
模型空间
BMA分析中考虑的所有候选模型的集合,根据问题背景和约束条件可以是有限或无限的。
尖峰-板状先验
回归系数的混合先验分布,结合了零点的点质量(尖峰)和连续分布(板状),便于BMA中的变量选择。
贝叶斯模型组合
BMA的扩展,其中模型组合权重本身被视为具有先验分布的随机参数,允许对聚合进行更灵活的推断。