机器学习的多分类策略

【机器学习】多分类学习

现实中的多分类学习任务常常出现。某些二分法可直接推广至多分法，在更多情况下我们通常基于一些基本策略利用二类学习器来处理这些问题。因此解决多数分问题的方法仍源自于解决二类问题

涉及N个类别C₁,C₂,…,Cₙ的情况下，
多标签识别的核心原理是"分解策略"，
即把一个多标签识别问题分解为多个二元识别子问题来解决。
具体而言，
首先将问题分解成独立的任务模块，
接着针对每个分解后的二元识别子任务训练相应的模型。
在测试阶段，
将各子模型的预测结果综合汇总以得到完整的多标签识别输出。
其中的关键在于确定有效的分解策略以及实现有效的集成方法。

本节主要介绍拆分策略。

最经典的拆分策略有三种：

（1）"一对一" (OvO)

（2）"一对其余"(OvR)

（3）"多对多" (MvM)

给定数据集：

(1) OvO

OvO 将这N个类别进行两两配对以生成N(N-1)/2个二分类任务例如OvO用于区分类别Ci和Cj并训练相应的分类器该分类器以D中的Ci类样例作为正样本以及Cj类样例作为反样本。在测试阶段中新样本将同时提交给所有这些二元分类