AI 詞彙表
人工智能完整詞典
并行贝叶斯优化
贝叶斯优化的扩展,其中多个点同时并行评估,通过利用分布式计算资源减少总优化时间。
批量采集
基于采集函数选择一批点同时评估的策略,该函数优化整个批次的整体性能标准而非单个点。
批量GP-UCB
GP-UCB(高斯过程上置信界)算法的变体,适用于同时选择多个点,通过最大化批次预期奖励总和的上界。
并行汤普森采样
批量采集方法,从模型后验分布中抽取多个样本,并将这些样本最大值对应的点并行评估。
克里金置信法
顺序批量采集启发式方法,其中每个后续点的选择假设批次中先前评估等于模型的预测值(即'置信')。
局部惩罚
批量采集技术,通过修改采集函数来惩罚选择当前批次中已选点附近的点,以鼓励评估的空间多样性。
q-EI(数量预期改进)
预期改进的泛化,用于批量优化,计算q个点同时的预期改进,考虑它们的联合相关性。
最大值熵搜索(MVES)
采集方法,旨在减少函数最大值的不确定性,通过选择能最大化关于该最大值互信息的点来适应并行评估。
多臂老虎机并行
一种优化框架,其中每个回合同时抽取多个臂(配置),应用于贝叶斯优化,通过并行评估加速探索-利用权衡。
异步贝叶斯优化
一种贝叶斯优化方法,一旦某个评估完成就立即更新模型并选择新点,无需等待所有进行中的评估结束,以最大化资源利用率。
幻影最优
批量采集中的概念,使用一个假设的最优点来指导批次中其他点的选择,惩罚那些如果该幻影存在时本应最优的点。
批量知识梯度
知识梯度在并行优化中的扩展,评估一批点对最终决策的预期信息增益,同时考虑这些点之间的相关性。
批量采集相关性
衡量批次中不同候选点的采集函数值之间的统计依赖性,对于避免冗余和最大化并行优化效率至关重要。
批量多样性
指导同时评估的点批次选择的原则,旨在最大化点的空间或信息分散度,以有效覆盖搜索空间。
内部并行 vs 外部并行
内部并行(在单次迭代内并行评估点)与外部并行(在不同资源上并行执行多个顺序迭代)之间的区别。
恒定谎言启发式
一种批量采集策略,在批次中已选的点被假定具有恒定值(例如:观察到的最佳值)来选择后续点,以简化计算。
GP-BUCB(高斯过程批量上置信界)
一种批量采集算法,将UCB原理扩展到同时选择多个点,在批次层面而非单个点层面平衡探索与利用。
多点期望改进(MP-EI)
期望改进的变体,计算一组点的预期改进,通常使用这些点最大值的分布近似来进行批量选择。
并行序列克里金优化器(SKO)
SKO优化器的并行评估适配版本,使用克里金置信法或局部惩罚等策略构建有效的点批次。
批量信息论采集
基于信息论的批量采集函数类别,如熵搜索或MES,旨在通过一批评估最大化获取关于全局最优分布的信息。