集成学习——观看并理解集成学习的框架

集成学习

从字面意义来看，机器学习的核心理念在于整合多个学习模型，形成一个由多个学习单元组成的协作体系，其中每个学习单元作为体系中的成员参与决策过程，并通过投票机制表达意见，从而使得整体系统在最终做出判断时具备更强的适应能力与广泛适用性，其综合表现将优于任何一个单独的学习单元。

个体和集成

集成学习模型的基础架构通常包括两个主要步骤：首先构建多个独立的学习单元，随后通过特定的融合机制将这些单元进行整合，整体架构如图中所示：

在上述集成模型中，若构成集成的各个学习器均归属于相同类别，如全部为决策树或神经网络，则该集成被称为同质集成；反之，若所包含的学习器采用了多种类型的学习算法，例如同时存在决策树与神经网络，则该集成被称为异质集成。
同质集成中，构成集成的各个学习器通常被称为基学习器，其对应的学习算法则称为基学习算法。
异质集成中，构成集成的各个学习器可被称为组建学习器，也可直接称为个体学习器。
此前我们已提及，为了使集成学习的整体泛化能力优于单一学习器的表现，尽管团队协作能够产生强大的力量，但同时也需警惕“木桶短板理论”的影响