Advertisement

机器学习lightGBM用于什么?

阅读量:

梯度提升法(Gradient Boosting Machine, 简记 GBM)通过无假设性方法(无需预先设定特定函数形式)来计算基函数,并利用梯度下降算法在函数空间中进行逼近计算。这些无假设性方法主要包括K近邻分类器、决策树模型及其集成技术等。

01 梯度提升决策树(GBDT)不足

基于梯度提升决策树(GBDT)的方法通常会遍历每个特征并扫描全部数据实例,在评估可能的分割点及其对应的收益。其中信息增益通常由分割后的方差计算得出,并导致计算复杂度与特征维度及样本量呈正相关关系,在处理大规模数据集时效率低下。为了应对这一问题,最直接的方法就是减少数据样本的数量以及模型中涉及的特征维度

全部评论 (0)

还没有任何评论哟~