基于决策树的集成分类方法比较
发布时间
阅读量:
阅读量
决策树(Decision Tree)是一种广泛应用的机器学习途径,适用于解决分类与回归两类问题。在处理分类任务时,决策树相较于逻辑回归和SVM存在明显差异:逻辑回归适用于接近线性可分的数据集,其决策边界为线性形式;SVM则通过将特征空间映射至核空间,使各类别在高维空间中实现线性可分,其在高维空间中的决策面为线性,而映射回原始特征空间后则表现为非线性的边界;相比之下,DT采用树状结构作为其核心机制,通过逐层划分各个特征的方式进行判断,从而能够识别出非线性的决策边界。关于逻辑回归和SVM的基本原理,可以参考相关博客《机器学习中的分类器:感知机、逻辑回归、支持向量机》。以下图表展示了一个二维特征空间中的分类实例,并对比了不同分类器所得到的结果:

(图片来源链接:LR、DT、SVM的对比)
模型演变历程 :

还没有任何评论哟~
