Python的数据降维技术

1.数据为何要降维

• 优化模型计算效率的同时节省运行时间与存储空间；
• 减少噪声特征对模型输出的影响；
• 该方法通过剔除冗余特征来缓解多重共线性问题。具体而言，在两个高度相关变量的情况下（如跑步机使用时间和燃烧卡路里），仅保留其中一个变量更为合理；
• 简单模型在小样本数据集上表现出更高的鲁棒性；
• 当数据可用较少特征表示时，则有助于更清晰地解读数据并提取有价值的知识；
• 降维处理使后续分析更加直观易懂。

因此，大多数情况下，当我们面临高维数据时，都需要对数据做降维处理。

数据降维有两种方式：特征选择，维度转换

特征选择

该方法涉及从原始数据集中提取关键属性并将其用于后续建模过程这一技术能够有效减少数据复杂度的同时保持原始数据的重要信息以提高分析效率并增强模型性能。

维度转换

这一过程采用特定的数学变换方法，在高维空间中实现数据点与低维空间之间的对应关系建立，并通过这种对应关系表征原始数据的整体特征属性；随后利用映射后变量的特征来表征原有变量的整体特征属性；这种方式实际上是一种新维度生成的过程，在生成过程中新维度仅是原始维度经过转化后的表达形式，并不具备原有的业务意义；基于数据维度转换的方法作为降维技术的重要手段之一具有重要的应用价值；这种降维技术根据转换方式的不同可划分为线性降维与非线性降维两大类；其中较常用的有独立成分分析（ICA）