Intermediate
梯度下降法的收敛性分析
分析梯度下降算法在不同假设条件下的收敛速率。
📝 提示内容
给定一个光滑的目标函数，请分别推导在以下情况下的梯度下降收敛速率上界：(1) 目标函数是L-平滑的（L-smooth）；(2) 目标函数是μ-强凸的（μ-strongly convex）。请详细阐述步长选择（如固定步长或线搜索）对收敛性证明的影响。