Advertisement

Python与机器学习集成学习Ensemble Learning

阅读量:

集成学习(Ensemble learning)是一种通过构建多个学习器并将其结果进行整合,以实现学习目标的技术手段。

一个优质的集成系统中,各个基础学习器应当具备“准确且差异”的特性:不仅需要保证每个个体模型具有较高的预测精度,同时还需要在预测结果上体现出一定的差异性与多样性。

这里写图片描述

集成学习分类方法

集成学习主要划分为两种类型,即同质集成与异质集成。

同质集成

集成过程中所涉及的同类学习模块被称作“基学习器”(base learner)

异质集成

集成过程中所涉及的学习器类型多样,可将其称为“组件学习器”(component learner)

集成策略

首先需要了解集成学习的实现方式,如图所示,其核心步骤是将原始训练集划分为若干个子数据集,随后采用多种分类器分别对这些子集进行训练。由于各个分类器具有不同的特性,因此它们所产生的预测结果也存在差异。接下来的关键问题在于,如何将这些差异化的结果进行整合,从而得出最终的预测结论,这一过程正是集成策略所要解决的核心任务。

![这里写图片描述](https://cdl.itadn.co

全部评论 (0)

还没有任何评论哟~