机器学习基础课程线性回归及其扩展

目录

• 一、线性回归模型

  • • 1. 线性回归的基本概念
    • 2. 线性回归策略-误差评估标准-最小二乘法
    • • (1) 基于正规方程的参数求解方法
      • (2) 基于梯度优化算法的迭代训练方法

• 基于scikit-learn的线性回归模型采用了正规方程和梯度下降算法。

• 以波士顿房价数据集为样本的线性回归分析案例。

• 回归模型性能指标评估报告。

• 线性回归和随机梯度下降算法比较研究。

• 探讨了模型过拟合与欠拟合的现象及其解决方案。

• 引入正则化技术以防止模型过拟合。

  • 二、岭回归

一、线回归

1.线性回归的定义

回归问题的判定？-目标值连续

线性回归: (基于迭代优化过程的方法)
定义: 线性回归用于建立模型来描述自变量与因变量之间的关系分析。其核心特征是由一个或多个称为回归系数的模型参数构成，并且这些参数是以其线性组合的形式存在的。

通俗理解，就是属性与权重的线性组合

一元线性回归 ：涉及的变量只有一个
**