高级算法特征选择

算法进阶day2--特征选择

• • 任务
  • IV值
  • • IV值的计算

代码编写流程如下：
首先求取IV值的过程。
具体而言：
首先通过随机森林算法筛选关键特征。
然后将筛选出的关键特征进行融合处理。
接着构建并训练模型，并通过交叉验证对其性能进行评估。
最后确定评分函数的具体形式。
第一节：逻辑回归
经过上述步骤的分析与建模，在实验数据集上取得了令人满意的分类效果。

* 2、线性SVM
* * 结果

* 3、决策树
* * 结果

* 4、随机森林
* * 结果

* 5、lightgbm
* * 结果

* 6、xgboost
* * 结果

* 7、GBDT
* * 结果

任务

采用基于IV值和随机森林的方法来完成特征选择。随后依次建立包括逻辑回归、SVM、决策树以及随机森林等分类器，并对各构建的模型进行性能评估。

IV值

IV值：IV值（Information Value），即信息价值度量，在评分卡模型中被广泛应用作为特征重要性评估指标，在金融风控领域具有普遍的应用。特别是在特征选择过程中会频繁涉及这一概念。