Hard
KKT条件的理论推导
探讨Karush-Kuhn-Tucker条件在约束非线性优化中的必要性与充分性。
请详细解释KKT条件的数学推导过程，包括拉格朗日对偶函数的构建。具体说明在什么正则性条件（如LICQ、MFCQ）下，KKT条件作为局部最优解的必要性成立。此外，请论证对于凸优化问题，KKT条件为何也是全局最优的充分条件。
Intermediate
梯度下降法的收敛性分析
分析梯度下降算法在不同假设条件下的收敛速率。
给定一个光滑的目标函数，请分别推导在以下情况下的梯度下降收敛速率上界：(1) 目标函数是L-平滑的（L-smooth）；(2) 目标函数是μ-强凸的（μ-strongly convex）。请详细阐述步长选择（如固定步长或线搜索）对收敛性证明的影响。
Hard
对偶理论与Farkas引理
深入探讨线性规划对偶理论的基础几何解释。
请从几何角度解释线性规划中的强对偶性定理。利用Farkas引理来证明当原问题可行且有界时，对偶间隙为零的必然性。请详细阐述原问题与对偶问题在可行域几何结构上的对应关系。
Expert
优化问题的计算复杂性
探讨P与NP问题在组合优化中的分类与归约。
定义在优化语境下P类、NP类以及NP-complete问题的含义。请选取一个经典的NP-hard问题（如整数规划或旅行商问题），解释为什么在多项式时间内找到精确解是不可能的，除非P=NP。并简要讨论近似算法在处理此类复杂性时的理论界限。