AI 詞彙表
人工智能完整詞典
200
類別
2,608
子類別
30,011
術語
術語
投影梯度下降
一种迭代优化算法，它执行梯度下降步骤，然后投影到可行约束集上，以确保每次迭代的可行性。
術語
可行集
由优化问题的约束条件定义的搜索空间的子集，包含所有满足所有施加条件的解。
術語
凸集投影
一种数学运算，它将空间中的任何点映射到给定凸集中根据指定范数（通常是欧几里得范数）最近的点。
術語
不等式约束
形式为 g(x) ≤ 0 的限制，定义了搜索空间中解有效的区域，并转化为优化的可行集。
術語
自适应步长
一种在下降算法中动态调整学习率的策略，通过根据问题的局部几何形状调整步长来优化收敛性。
術語
约束收敛性
优化算法的一种特性，保证收敛到满足原始问题中所有施加约束的驻点。
術語
信赖域
一种优化技术，将每次迭代限制在一个区域内，在该区域内目标函数的局部模型被认为是可靠的，并动态调整该区域的大小。
術語
凸优化问题
一类优化问题，其中目标函数是凸的且可行集是凸的，保证存在唯一的全局最小值和算法的收敛性。
術語
随机投影梯度
投影梯度下降的一种变体，它使用在随机数据子集上计算的梯度噪声估计来加速大规模数据集上的计算。
術語
束方法
一种非光滑优化算法，它积累过去的梯度信息以构建一个分段线性模型，从而在每次迭代中改进搜索方向。
術語
可行方向
从一个可行点出发的移动方向，它在小距离内保持约束的满足，对于确保迭代的可行性至关重要。
術語
障碍函数
一种惩罚函数，当接近可行集的边界时趋于无穷大，迫使迭代严格保持在可行域内部。
術語
优化中的对偶性
一个数学原理，它建立了原始优化问题与其对偶问题之间的关系，从而允许替代方法和对最优值的界定。
術語
Frank-Wolfe算法
一种受约束的优化方法，它通过在每次迭代中解决可行集上的线性优化问题来避免昂贵的投影。
術語
近端映射
一个推广了投影的算子，它最小化目标函数和近端正则化项的组合，对于非光滑优化至关重要。
🔍