local linear regression
发布时间
阅读量:
阅读量
局动加权回归(Locally Weighted Linear Regression, LWR)属于一种非参数学习算法–当预测新样本值时,在每次迭代中都会基于当前训练集重新拟合模型以获得新的参数估计;这表明在每一次预测过程中都需要依赖于当前的训练数据集合;因此,在每一次迭代中所获得的具体参数估计也会呈现一定的不确定性
注:这一学习流程指的是,在处理完全部训练数据后会自动生成一批训练参数;随后通过这些训练参数对新样本进行推断时,则不再依赖原有的训练数据;最终所得出的参数值被固定下来。
线性回归
在线性回归分析中的一般采用形式为y=f_{W}(x)=W^Tx + W_0来描述多于一个变量间的定量关系模式,在这里x=(x_1,x_2,...,x_n)是一个向量变量而W=(W_1,W_2,...,W_n)也是一个向量参数,并且引入截距项W_0以增强模型的拟合能力。
其中参数向量W = (W₁,W₂,…,Wₙ)ᵀ, 而观测值向量x = (x₁,x₂,…,xₙ)ᵀ, 并带有截距项的参数向量则表示为W' = (W₀,W₁,W₂,…,Wₙ)ᵀ.
为了根据训练数据得到参数w^{'},先确定其最小二乘的损失函数为
随后通过解决优化问题 argmin(S(w^{'}))来确定相应的参数,并使上述损失函数达到最小值。

还没有任何评论哟~
