机器学习：集成学习与随机森林（共7种）

关于ipynb文件的位置，请参考以下详细链接：https://github.com/824024445/Machine-learning-notes/blob/master/7集成学习和随机森林.ipynb
此外，《Sklearn与TensorFlow机器学习实用指南》的学习笔记也值得参考。

一、集成学习

集成学习即为融合多个分类器的预测结果。

1.1 投票分类（少数服从多数）

令人期待的是这种投票分类器的表现偶尔会超过集成中的最佳分类器。
实际上，在每个分类器都属于弱学习者类别（即它们仅仅略微优于随机猜测水平）的情况下，在集成后仍能成为一个强学习者（具有高准确率）。当有足够的弱学习者时，则具备足够的多样性。

如果所有分类器均在相同的训练数据集上进行学习，则可能产生相同类型的错误；相比之下，在不同数据集上分别进行学习的各个分类器的集成效果会更优。基于moons数据集构建三个分类器模型，并采用集成算法进行融合。

    from sklearn.datasets import make_moons
    from sklearn.model_selection import tr