决策树（2）

ID3算法应用与分析

对上一节中所采用的ID3算法进行简要回顾：

ID3算法的主要思路是在决策树的各个节点上，依据信息增益这一标准来选取特征，并通过递归的方式完成决策树的构建。

具体实施步骤如下：

• 以根节点为起点，针对该节点计算所有可选特征对应的信息增益值，从中挑选出信息增益最高的特征作为当前节点的划分依据，根据该特征的不同取值生成对应的子节点；
• 对于每一个生成的子节点，继续采用相同的方法进行递归处理，逐步构建完整的决策树结构；
• 当所有特征的信息增益均趋于极低或无法再选择有效特征时，停止构建过程，最终形成一棵完整的决策树。

ID3算法本质上是通过极大似然法来进行概率模型的选择。

二：直观感受一下我们的树

在前一章节中，我们已经完成了决策树的构建，然而是否能够通过代码形式清晰地表达整棵树的结构呢？
比如，可以采用字典的形式来存储完整的树结构：

{'纹理': {0: {'色泽': {0: 'no', 1: {'敲声': {1: 'yes', 2: 'no'}}, 2: 'no'}}, 1: {'脐部': {0: 'yes', 1: {'根蒂': {0: 'yes', 1: 'yes'}}, 2: 'no'}}}}

随后，为了更直观地观察所构建的树的具体形态，

• 设计函数majo