二分类问题中特征选择的两种常用技术

二分类问题中特征选择的两种常见方法

by dylanfan at 2014-6-25

（1）互信息法。该方法中，数值的高低直接反映了变量之间关联程度的强弱，数值越高则表明相关性越显著

w代表特征，t代表目标。该方法用于衡量特征是否存在对目标值所产生的影响程度。

（2） 卡方检验

其中 A 表示在 w = 1 且 t = 1 的情况下对应的数量，B 表示在 w = 1 而 t = 0 的条件下对应的数值，C 表示当 w = 0 并且 t = 1 时的计数，D 则表示在 w = 0 和 t = 0 情况下的统计结果

卡方值的数值越高，所体现的相关性程度也就越显著。

卡方检验的核心在于验证特征与目