Advertisement

机器学习03——线性回归与过拟合的正则化:L1和L2正则化及其扩展:岭回归、Lasso回归与弹性网络

阅读量:

在最小二乘回归方法中,所构建的目标函数仅关注模型对训练样本的拟合效果。

在这里插入图片描述

原则上任意复杂的模型能完全拟合训练数据。我们称之为过拟合。

• 过拟合(overfitting):当模型结构过于复杂,导致其对训练数据的适应性过强,而对测试数据的适应能力却明显不足。
• 欠拟合(underfitting):若模型设计过于简单,无法有效捕捉训练数据中的规律,自然也难以在测试数据上取得良好表现。

复制代码
    注意:线性回归中采用线性模型。而线性模型是很简单的模型,所以当特征维数不是太高时,线性回归的过拟合现象通常不太严重。
    
    
      
    

举例说明:

sin曲线拟合方法

在这里插入图片描述

![在这里插入图片描述](https://ad.itadn.com/c/weblog/blog-img/images/2025-

全部评论 (0)

还没有任何评论哟~