SVM-RFE

特征选择方法-RFE(包装式模型)

(一)RFE基本思想

1. 将所有特征纳入模型后,计算出各特征对应的系数（这些系数代表其重要性）;
2. 计算所有系数平方和后,剔除具有最小平方和的那些相关变量;

3.用剩下的特征在进行模型训练,在进行特征移除,直至没有特征;

(二)基于SVM的RFE

1.模拟算法

导入numpy库
导入pandas库
从sklearn导入数据集模块
从sklearn导入预处理模块
从sklearn特征选择模块导入RFE类
从sklearn支持向量机模块导入线性支持向量分类器类

datasets = datasets.load_wine()

featureNames = datasets.feature_names

**feat,label = datasets.data,datasets.target

scaler = StandardScaler()
inputVec = scaler.transform(feat, copy=False)

tmp,\ feat 与 \texttt{featureNames} 分别通过 \texttt{np}\text{\texttt{\_}}copy 方法进行拷贝赋值
\texttt{rank} 初始为空列