支持向量机

支持向量机概述

支持向量机（SVM）是一种基于高维特征空间的线性函数作为假设的学习系统，在分类任务中展现出卓越的性能特性。在自然语言处理领域中,SVM方法主要应用于短语识别,词义消歧,文本自动分类以及信息过滤等多个关键环节

线性分类

二分类问题常用实值函数f : X \subseteq \R^{n} \rightarrow \R（其中n表示输入空间的维度）来进行判别：当f(\mathbf{x}) \geq 0时，则将输入向量\mathbf{x} = (x_{1}, x_{2}, \dots, x_{n})^{\text{T}}归类为正类；反之，则归类为负类。当f(\mathbf{x})表现为线性函数时，则可表示为以下形式：

f(\mathbf{x}) = \langle \mathbf{w}, \mathbf{x} \rangle + b = \sum_{i = 1}^{n} w_{i} x_{i} + b \tag {1}

其中

该分类方法的几何意义在于：由方程\langle \mathbf{w}, \mathbf{x} \rangle + b = 0所定义的超平面将输入空间X划分为两个区域，在这两个区域中分别对应负类与正类

![在这里插入图片描述](https://ad.itadn.com/c/weblog/blog