人工智能完整詞典
一种优化技术，在函数空间中沿着损失函数梯度的相反方向调整模型参数。
实现梯度提升方法的一类算法，使用各种损失函数和弱学习器。
根本区别在于，bagging并行独立训练模型，而boosting通过修正错误顺序构建模型。
损失函数相对于预测的偏导数，指示最大可能改进的方向。
一系列技术(L1/L2、树约束、收缩)，用于控制模型复杂度以防止过拟合。
梯度提升的变体，使用海森矩阵(二阶导数)进行更优的参数更新。