深入掌握SVM模型在深度学习中的应用(七)

文章结构概述

• • 初步认知-SVM概念

    • 线性分类

    • • 线性可分性

    • 间隔

    • • 几何间隔

      • 最大间隔

      • • 求解：

      • SVM基本型的对偶形式转换

      • 运用KKT条件进行求解

      • • 第一步：针对参数w和b进行偏导计算

    • 第二步：对拉格朗日乘子进行极大化处理

    • • SMO算法

    • 第三步：依据拉格朗日乘子确定参数w和b

    • 总结

终于迎来了对支持向量机(SVM) 这一重要知识点的系统梳理，感到非常兴奋！！！因为要真正掌握SVM所涉及的内容实在太多：分类函数、最大化分类间隔、凸二次规划、拉格朗日乘数法、原始问题与对偶问题之间的转换、KKT条件以及SMO算法 等等。实际上，这些内容都可以归类到最优化问题的求解范畴中。一旦理解了SVM的相关原理，那么上述提到的知识点通过手动推导数学公式也将变得相对容易。

注：本文主要介绍SVM在处理线性可分问题时的应用。下一篇文章（八）将重点讲解SVM如何应对线性不可分的问题。

SVM概念初步探索

【支持向量机（Support Vector Machines，SVM）是一种基于统计学习理论的数据挖掘技术，能够应对回归分析（