特征工程之特征选择(4)----嵌入法（Embed）

文章结构概览

• 引言

  • 嵌入式方法简介

  • 嵌入式方法的不足之处

  • SelectFromModel功能介绍

  • SelectFromModel关键参数解析

  • 演示案例

  • • 引入所需模块

    • 数据预处理阶段

    • 创建评估模型实例

    • 经验性设定阈值（不建议采用）

    • • 确定阈值，提取筛选后的数据集
      • 模型性能评估

    • 利用学习曲线确定最佳阈值

    • • 获取特征重要性最大值
      • threshold参数的学习曲线概览
      • 当threshold设为0.00183时的模型效果展示
      • 寻找最优阈值过程分析
      • threshold设为0.000096时的模型表现情况
      • 后续参数优化步骤

  • 结论部分

前言

在前述的(1)、(2)、(3)三篇文献中，我们已对过滤法的应用进行了阐述。该方法的核心在于根据设定的阈值对数据进行筛选，随后将处理后的数据输入至模型中。接下来，我们将介绍一种全新的技术手段——嵌入法。

嵌入法概述

嵌入法是一种使算法自主判断采用哪些特征的途径，即在特征选择与模型训练过程中同步实施。
在应用嵌入法时，首先借助特定的机器学习算法或模