特征选择方法

在完成数据预处理之后, 我们必须选择具有重要价值的特征用于训练机器学习算法与模型. 一般而言, 从两个关键角度出发来筛选特征:
1. 特征是否具有发散性
2. 特征与目标之间的相关程度

特征是否发散 ：若某一特定特征未呈现明显的差异性表现，则该特征的方差值将趋近于零。换言之，在这一特性维度上各样本数据几乎没有波动或分散现象；
特征与目标的相关性 ：从明显角度来看，在分析指标中与目标变量具有较强关联度的关键指标应优先进行选择。

基于不同形式的方法可将特征选取划分为三类：

• 滤镜法（Filter）：基于多样性和关联度对各特征求分并设定候选阈值数量以选取所需特徵；
• 包装法（Wrapper）：依据目标函数（通常用于预测效果评估），逐次选取或剔除若干特徵；
• 嵌入法（Embedded）：利用机器学习算法进行训练后获取各特徵权重系数并按大小排序以选取特徵；类似于滤镜方法但它通过模型训练确定特徵重要程度

Filter

1. 方差选择法:
通过方差选择法进行特征筛选时, 首先需要计算每个特征的方差, 并基于设定的阈值标准筛选出方差超过该阈值的关键特征 > 2. 相关系数法: > 使用相关系数法进行分析时, 请先计算各个特征与目标变量之间的相关系数及其对应的P