Advertisement

Decision tree

阅读量:

目录

Part I: 核心概念界定

Part II: 基本操作步骤

递归结束条件:

Part III: 最佳划分特征的选择策略

信息增益(inforamtion gain)

增益率(gain ratio)

基尼指数(Gini index)

Part IV: 决策树中过拟合现象的应对措施

剪枝操作-预剪枝方法

剪枝操作-后剪枝方法

Part V: 对连续型数据的处理方式

Part VI: 缺失数据的处理机制

Reference:


Part I: 基本定义

通常情况下,决策树的结构由一个根节点、多个内部节点以及多个叶节点构成;其中,叶节点用于表示最终的决策结果,而其余各节点则对应于特定属性的测试条件;在每个节点中,所包含的样本集合会依据属性测试的结果被分配至相应的子节点中;根节点则负责包含整个样本集。

Part II: 基本流程

决策树的构建过程具有递归性,其生成方式遵循逐层递进的逻辑结构。

递归终止条件设计

  1. 当前节点所涵盖的所有样本均归属于同一类别,因此无需进行分割;

  2. 若当前属性集合为空,或所有样

全部评论 (0)

还没有任何评论哟~