Coursera机器学习课程第七周支持向量机(SVM)

Large Margin Classification

支持向量机（Support vector machine）一般应用于机器学习领域。它属于监督式学习的一种方法，并主要用于解决统计分类（Classification）问题以及回归分析（Regression）问题等任务。

支持向量机可被视为广义线性分类器的一种类型，并等同于Tikhonov Regularization方法的一个特例。这类分类器的独特之处在于它们既能最小化经验误差又能最大化几何边缘区域，在这种情况下支持向量机也被称作最大边缘区域分类器。如今它常被简称为SVM。

Optimization Objective
先来回顾逻辑回归函数：

由图上可知：

Logistic Regression Cost Function:

ps:这是对于一个样本点的cost Fun