机器学习03——线性回归与过拟合的正则化:L1和L2正则化及其扩展:岭回归、Lasso回归与弹性网络
发布时间
阅读量:
阅读量
在最小二乘回归方法中,所构建的目标函数仅关注模型对训练样本的拟合效果。

原则上任意复杂的模型能完全拟合训练数据。我们称之为过拟合。
• 过拟合(overfitting):当模型结构过于复杂,导致其对训练数据的适应性过强,而对测试数据的适应能力却明显不足。
• 欠拟合(underfitting):若模型设计过于简单,无法有效捕捉训练数据中的规律,自然也难以在测试数据上取得良好表现。
注意:线性回归中采用线性模型。而线性模型是很简单的模型,所以当特征维数不是太高时,线性回归的过拟合现象通常不太严重。
举例说明:
sin曲线拟合方法


还没有任何评论哟~
