机器学习之线性回归问题与实战（含完整的Python代码实现）

1、何为线性回归？

**** 从直观角度来看，线性回归的核心在于寻找一个一次函数，以尽可能贴合一组离散数据点，从而使得所确定的函数能够准确地反映出该数据序列的变化趋势。

2、如何求线性回归函数？

• step1: 在着手计算线性回归函数之前，首先需要构建一个用于衡量线性函数对数据序列拟合程度的评估函数，这一函数通常被称为loss函数，其具体表达式如下所示：

我们的目标是确定一个线性函数，使其对应的loss值达到最小化状态，其中关键的可调节参数为w与b，通过调整这两个参数以实现loss的最小化。

• step2: 在构建完loss函数后，下一步是实现其最小化。为此，我们采用梯度下降这一算法来完成该目标。从基本原理来看，梯度下降方法通过不断调整w和b的取值方向，使其朝着loss函数导数相反的方向变化，从而逐步降低loss值。梯度下降算法的具体数学表达方式如下：

![w^{'}=w-lr*\frac{\partial loss }{\partial w}