发现一种简单但强大且屡获殊荣的机器学习算法
在本文中，我们将了解梯度提升，这是一种机器学习算法，为 XGBoost 和 LightGBM 等流行框架奠定了基础，这些框架是多个机器学习竞赛的获奖解决方案。
对于任何考虑在机器学习中使用集成的人来说，这是一篇很棒的文章，对于已经是专业人士但只是想从点拟合和点预测中休息一下并想要了解一下幕后的人来说，这是一篇很好的复习文章！
我们将介绍集成学习的基础知识，并通过逐步示例解释梯度提升算法如何进行预测。我们还将探索梯度下降和梯度提升之间的关系，并找出是否存在任何联系。让我们开始吧！
集成学习是训练和组合多个模型（通常是弱学习器）的过程，以创建具有更高预测能力的强学习器。有两种方法可以做到这一点装袋和提升。