特征离散化和归一化处理

RT在logistic regression中特别强调将一些连续变量划分为离散类别是有益的。这种处理方法不仅有助于减少计算复杂度，并且能够有效捕捉复杂的模式；同时便于构建交叉特征

连续特征离散化处理有什么好的方法， 有时候为什么不直接归一化？

这里主要说明监督的变换方法；

连续性变量转化成离散型变量大致有两类方法：

（1）卡方检验方法；

（2）信息增益方法；

一： 卡方检验方法

1.1 分裂方法

1.2 合并方法

分裂方法即为寻找一个合适的分割点用于考察左右两个子区间在目标特征上的分布是否存在显著差异性若存在则实施分割否则予以放弃。其中分割点通常选取那些特征差异最为明显的区域。至于合并类似的方法则是指先将这些较小规模的单元区间的进行划分然后按照一定的顺序将那些在目标特征上分布不够显著的相邻小区间进行合并重复这一过程直至满足收敛条件为止。

二：信息增益方法

2.1 分裂方法

2.2 合并方法

该方法与决策树的学习具有相似性。在分裂过程中，则是通过寻找合适的分割点来划分左右两个区间，在每一次迭代时选取信息增益变化最大的分割点进行划分，并不断重复此过程直至满足收敛条件。对于初始的小单元区间，则按照信息增益变化较小的标准进行合并处理，并持续此操作直至达到收敛状态。

参考文献：

1 ： 博客：

χ²检验（x²检验）也被称为卡方检验

http://www.cn