Advertisement

从 0 开始机器学习 - 正则化技术原理与编程! 机器学习入门:正则化技术的原理及编程实现

阅读量:

此前掌握了一种机器学习的基础方法:线性回归、逻辑回归以及梯度下降法;通过今天学到的知识,在我们的模型中应用这一项正则化方法能显著提升其泛化能力,在面对新的数据时表现出更优的表现!

快来一起学习学习,学习使我快乐 ()!

一、正则化是什么?

正则化(Regularization)这三个字具有重要意义,在机器学习领域中被广泛认为是一种非常有用的工具。它本质上是一种用来解决机器学习中过拟合问题的技术。通过这种技术建立起来的模型不仅能够有效减少在训练数据上的误差,在面对未知数据时也能表现出良好的泛化能力。

机器学习模型对未知数据的拟合能力被称为泛化能力。具备较好泛化能力的模型,在应对未知数据时通常表现出良好的效果。当模型在训练数据上出现过拟合(over-fitting)现象时,则其泛化性能会相应降低。

当出现过拟合问题后,处理的方式有 2 种:

  • 维度缩减措施包括降低模型的多项式次数和减少输入特征的数量。
    • 正则化方法通过增加代价函数中的参数系数来实现约束。

我们今天将向大家介绍正则化技术,并通过一个例子来阐述过拟合与欠拟合的概念。

二、过拟合 VS 欠拟合

2.1 线性回归例子

这里还以预测房价为例,分别解释以下 3 种情况:

![](https://ad.itadn.com/c/weblog/blog-img/images

全部评论 (0)

还没有任何评论哟~