AI 词汇表
人工智能完整词典
约束贝叶斯优化
一种优化方法，将贝叶斯推断与超参数的显式约束相结合，使用高斯过程对目标函数进行建模，同时遵守施加的边界和限制。
分层网格搜索
一种结构化的优化方法，通过按分层树组织搜索来利用超参数之间的依赖关系，从而消除无效组合并优化搜索空间。
帕累托多目标优化
一种先进技术，当多个相互冲突的目标需要在超参数约束下同时优化时，识别帕累托最优解集，从而在性能和资源之间实现平衡的权衡。
约束遗传算法
一种进化元启发式算法，通过惩罚、修复或约束支配等机制来处理优化约束，在保持遗传多样性的同时遵守搜索空间的限制。
有界粒子群优化
PSOP算法的一种变体，其中粒子在由显式约束界定的搜索空间中演化，使用反射或重置机制将解保持在可行区域内。
投影梯度法
一种优化技术，将梯度投影到活动约束的切空间上，确保每次迭代都保持在可行区域内，同时遵循最陡下降方向。
约束模拟退火优化
一种元启发式算法，在接受新解的过程中集成了约束管理机制，通过自适应惩罚修改目标函数或使用修复算子。
带约束的SMBO
扩展的基于序列模型的优化，用于处理超参数约束，同时为目标和约束构建概率模型，以有效地引导搜索朝向可行解。
约束进化差分优化
适用于约束问题的连续优化算法，使用特定的变异和交叉算子，结合基于可行性和约束支配的选择方法。
内点法
将约束转换为障碍惩罚的优化算法，探索可行域内部并收敛到最优解，同时严格保持所有活动约束。
增广拉格朗日优化
结合拉格朗日对偶性与二次惩罚项的方法，将约束问题转化为一系列无约束问题，同时保证收敛到可行的最优解。
带依赖关系的树形帕森估计器
修改的树形帕森估计器，用于处理超参数间的条件依赖关系，构建遵循搜索空间条件结构的层次概率模型。
鲁棒超参数优化
寻找在各种条件和不确定性下表现良好的超参数配置的方法，集成鲁棒性约束以确保模型面对输入数据变化时的稳定性。
约束多保真度优化
在预算约束下使用不同保真度评估的策略，在快速近似和精确评估之间智能分配资源，以加速收敛到最优超参数。
资源约束下的超参数优化
优化框架，显式地将计算、内存和时间限制纳入搜索过程，使用早期停止机制和自适应资源分配。
约束期望改进
贝叶斯优化的获取标准，修改标准期望改进以惩罚违反约束的解，平衡新区域探索与遵守施加的限制。
带分类约束的优化
用于处理具有相互限制或排除条件的分类超参数的专门方法，采用适当的编码方式和尊重离散空间结构的搜索算子。
带约束的神经架构搜索
自动化设计神经架构的过程，其中集成了对复杂度、延迟或能耗的约束，确保生成的架构符合硬件和操作规范。