如何线性回归模型用矩阵表示法拟合数据

这段内容旨在阐述如何运用矩阵表示法对线性回归模型进行数据拟合，并进一步探讨了为何无法直接通过矩阵求逆的方式确定模型参数 w。

1. 矩阵表示法 ：

在机器学习领域，当提供一个用于训练的样本集合时，该集合包含 N 个样本，每个样本具有 D 个特征。这些样本数据及其对应的目标值可以通过矩阵的形式进行表达。

设计矩阵 \Phi：该矩阵的规模为 N \times (D + 1)，其中每一行对应一个样本的特征向量，并额外添加了一列全为 1 的偏置项（用于表示模型中的截距 w_0）。其具体形式如下：
\Phi = \begin{bmatrix} 1 & x_{11} & x_{12} & \cdots & x_{1D} \\ 1 & x_{21} & x_{22} & \cdots & x_{2D} \\ \vdots & \vdots & \vdots & \ddots & \vdots \\ 1 & x_{N1} & x_{N2} & \cdots & x_{ND} \end{bmatrix}
其中每行 [1, x_{i1}, x_{i2}, \ldots, x_{iD}] 表示第 i 个样本的特征信息。

目标向量 y：这是一个大小为 N \times 1 的列向量，用于存储每个样本的实际输出值：