决策树 (Decision Tree) 原理概述及相关算法（ID3,C4.5）

Decision Tree 决策树：

决策树作为机器学习监督学习分类算法中较为基础的一种，其本质是一种预测模型，用于描述对象属性与对应值之间的映射关系。在该结构中，每个节点代表特定的对象，而各个分叉路径则对应可能的属性值，最终的叶结点则表示从根节点至该叶结点所经过路径所对应的对象的具体值。决策树通常仅具备单一输出功能，如需实现多输出，则可通过构建多个独立的决策树来分别处理不同的输出目标。

接下来通过一个实例进行说明，将有助于更快速地理解其原理。

范例：

假定存在如下数据，用以反映当天是否会进行高尔夫运动：

在构建决策树模型之后，可以形成如下所示的结构：

从上述内容可以明显看出，简而言之，决策树本质上是由多个If()语句相互嵌套构成的结构，最终能够得出某种结论。（请允许我在此处使用较为通俗的表达方式，虽然难以精准描述其具体含义，但通过观察这张图，相信读者已经对决策树有了初