Advertisement

The introduction, explanation, and proof of the PCA algorithm.

阅读量:

算法的目标

主成分分析(PCA)算法的核心目标是将原本具有p个维度的样本数据转换为仅包含d个维度的数据形式;在这一过程中需满足以下两个要求:

  • 原始样本数据中的各个点与其在d维空间中对应的投影点之间的距离应尽可能地小。
  • 当样本数据被映射至d维空间后,这些数据点在该空间中的投影之间应当保持较大的间距。

(实际上,这两个条件在数学上是等价的。)

为了更直观地理解这一过程,可以举一个具体的例子:当p=2且d=1时,PCA算法的实现方式可以通过下图进行展示。

在这里插入图片描述

算法步骤解析

  • 对全部样本实施中心化处理,当样本总数为m时,其具体操作方式如下:

{x\mathop{ {} } \nolimits_{ {i} } \leftarrow x\mathop{ {} } \nolimits_{ {i} } -\frac{ {1} } { {m} } {\mathop{ \sum } \limits_{ {i=1} } ^{ {m} } {x\mathop{ {} } \nolimits_{ {i} } } } }

  • 对样本矩阵**X*

全部评论 (0)

还没有任何评论哟~