有监督分类：采用最小二乘分类

1.前言

以下将重点阐述与模式识别相关的算法内容。毋庸置疑，在人工智能全面普及的时代背景下，模式识别所发挥的作用正变得愈发关键。
模式识别具体而言，即针对输入的模式x∈R，将其归类至其所属的类别y∈[1,...,c]的一种途径。其中，c代表类别总数。

2.最小二乘分类方法解析

首先探讨一个二分类问题，其中类别标签y的取值范围限定在{+1，-1}。在此情形下，分类器的学习过程可近似表述为一个输出结果为+1或-1的二值函数问题，具体示例如下图所示：

关于函数逼近的分类问题

此类仅取两个值的函数，可以通过最小二乘法实现与回归模型相似的学习过程。

针对测试模式x所属类别y的预测结果y'，其判定依据为学习过程中获得的输出符号特征。

![](https://cdl.itadn.c