AI 词汇表
人工智能完整词典
200
个类别
2,608
个子类别
30,011
个术语
个术语
小批量梯度下降
SGD的变体，它使用一小部分数据子集（批次）在每次迭代中计算梯度，在纯SGD和批量梯度下降之间提供了折中方案。
个术语
动量法
SGD的加速技术，将前一次更新向量的分数添加到当前向量中，以克服振荡并加快相关方向的收敛速度。
个术语
学习率调度
在训练期间动态调整学习率的策略，以改善收敛性，包括步长衰减、指数衰减和余弦退火等方法。
个术语
梯度爆炸问题
训练期间梯度变得过大的问题，导致参数更新不稳定和学习算法发散。
个术语
局部最小值
参数空间中的一个点，损失函数在局部邻域达到最小值，但不一定是全局最小值。
个术语
全局最优解
参数空间中的一个点，损失函数在整个域上达到最低值，代表优化问题的最优解。
个术语
Nesterov加速梯度
动量法的改进变体，它预测位置而不是当前位置计算梯度，理论上提供更快的收敛速度。
🔍