机器学习--集成学习简述（1）

2. Boosting的两个核心问题

三、AdaBoost

1. 概述

2. AdaBoost两个问题如何解决

3. 算法思想

4. 算法流程

5. 算法过程图示

四、Bagging（装袋法）

1. 概述

2. 自助采样方法（有放回）

五、随机森林

1. 概述

2. 算法思想

3. 随机森林的优缺点：

4. Bagging VS 随机森林

五、集成的合成策略

1. 学习器的组合可以从三个方面带来好处

2. 结合策略

---

一、概述

========

1. 什么是集成学习？

集成学习（ensemble learning）被这些学习方法的组合所实现超越原先的方法所得出的成果。

弱学习器被用于构建集成系统。其分类精度仅略高于随机猜测水平。然而，在集成后其性能仍可能优于传统强学习方法。集成后的模型不仅在准确性方面表现出色，在效率上也有显著提升。

“三个臭皮匠顶个诸葛亮”

2. 例子

让我们考察一个简化的案例，在二分类问题中假设三个分类器在三个样本上的表现如图所