Advertisement

机器学习 Python PCA 数据降维

阅读量:

代码及数据集下载:PCA
在引入机器学习技术之前,通常需要对原始数据实施降维操作,其背后存在以下考量因素:

  • 提升数据集的可用性与可操作性
  • 减少多种算法在运算过程中所耗费的资源
  • 消除干扰信息
  • 增强结果的可解释性

本文所讨论的降维方式为一种被称为主成分分析法(PCA)的技术。该方法通过将原始数据从现有的坐标体系迁移至新的坐标体系中,而新坐标体系的选择依据是数据本身的特性。首先确定的新坐标轴方向为原始数据中具有最大方差的方向;随后确定的第二个新坐标轴方向需与第一个坐标轴保持正交关系,并且也需具备最大的方差。这一过程持续进行,直至达到希望保留的数据特征数量。可以观察到,大部分方差通常集中在前几个新的坐标轴中,因此可以忽略那些方差较小的后续坐标轴。方差越大意味着该特征所包含的信息量越多,同时也能体现数据之间的差异程度。PCA方法假设原始数据之间不存在相关性。

PCA的核心原理及其执行流程如下:
- 设定变换后的坐标系为W=\{ w_1,w_2,..,w_{d'}\},其中构成一组标准正交基向量。
- 给定m个样本集合X=\{ x_1,x_2,...,x_m\}
- 对于这m个样本中的每个特征变量进行中心化处理,使得$\sum\limits_i

全部评论 (0)

还没有任何评论哟~