线性回归用于预测数值型数据

线性回归（linear regression）是一种统计方法，其核心在于依据已有的训练样本数据，确定一组最优参数w，从而通过公式y = w*s对未知数据进行预测。

一般情况下，该模型采用平方误差作为衡量预测结果与实际值之间差异的损失函数：

通过最小化该误差，对相关变量求导并令其导数等于零，从而确定系数w，该过程可借助矩阵形式进行表达：

该过程被称作普通最小二乘法（ordinary least squares，OLS）

OLS方法仅能确定数据的最佳拟合直线，因此其适用范围受到一定限制。为解决这一问题，引入了局部加权线性回归（Locally Weighted Linear Regression, LWLR）技术。通过为每个数据点分配相应的权重，误差函数被重新定义为：

![