LDA与least squares的探讨及其变形

1 LDA与最小二乘法的关联

在处理二值分类任务时，令人意外的是最小二乘法与LDA分析所得结果完全吻合。回溯此前关于线性回归的讨论，假设有N个具有d维特征的训练样本

](http://images.cnblogs.com/cnblogs_com/jerrylead/201104/20110421233104556.png)（i从1到N），每个[

](http://images.cnblogs.com/cnblogs_com/jerrylead/201104/201104212331048014.png)对应一个类标签[

![clip_image027](https://ad.itadn.com/c/weblog/blog-img/images/2025-05-31/C0iw4WV8g6suc2Rzr3G7SdYZOKAQ