机器学习（Python）监督学习中的决策树与随机森林用于分类与回归任务

目录

1、决策树

1.1决策树的基本原理

1.2 决策树的优势和不足

2、随机森林

2.1随机森林的基本原理

2.2 随机森林的优势和不足

3、实战案例---收入预测案例

---

备注：本文基于《深入浅出Python机器学习》一书的学习总结而成。若对机器学习感兴趣的朋友不妨直接购买此书进行深入研究；而从本质上讲，则是为了培养独立思考的能力。

1、决策树

1.1决策树的基本原理

分为分类型决策树；用于处理离散型变量的决策模型；以及回归型决策树；用于处理连续型变量的决策模型。

决策树的核心理论基础是信息熵；当样本呈现一定的规律性分布时的信息熵较小；而当样本呈现高度随机性分布时的信息熵较大

决策树算法参数如下：

该分类器采用'gini'评估标准进行决策树构建。
其特征选择策略基于最佳分割方法实现。
最大深度设定未作限制。
最小样本用于分裂节点规定为