【机器学习】Adaboost

本文介绍了集成学习中Boosting的代表算法Adaboost。首先介绍了Adaboost的Boosting思想：1）学习器的投票权重，2）更新样本权重，巧妙之处在于这两个权重的设计使得Adaboost如此优美。然后介绍了Adaboost的前向加法思想，即不断拟合上一次分类器的损失。最后以前向加法模型中的特例（二分类）导出Adaboost的指数损失理解，再次回归到Adaboost的学习器权重和样本更新权重为何如此设计。作者 | 文杰编辑 | yuquanleAdaboostAdaboost的Boosting理解Adaboost是集成学习中Boosting方式的代表。多个基学习器其串行执行，下一个学习器基于上一个学习器的经验，通过调整样本的权重，使得上一个错分的样本在下一个分类器更受重视而达到不断提升的效果。Adaboost集成多个学习器的关键在两点：设置 ………………………………