Python版本的支持向量回归

引言

本小节旨在简要介绍支持向量回归。在之前讨论的核逻辑回归部分中应用了表示定理（Representer Theorem），将其转换为Kernel形式。在本节中，我们将延续这一思路，并探讨如何将回归问题与Kernel的形式有机结合起来。

Kernel Ridge Regression

上次介绍的表示定理表明，在处理具有L2正则项的线性模型时非常有用。该定理表明，在面对包含L2正则化的线性模型时，默认情况下其最优解是基于数据zn的线性组合。我们可以将这一类线性模型转换为Kernel的形式。

一旦我们知道了这种带L2-Regularizer的线性回归模型的最佳解的形式，则可以将其代入原始ridge回归问题中替代地使用β而非w。

我们引入了w作为z的线性组合这一条件，并将其代入原式以导出以下表达式；随后将其表示为矩阵相乘的形式。

Kernel Ridge