《统计学习方法（第二版）》李航 读书笔记 （5）感知机原理与例题解析

《统计学习方法（第二版）》李航 读书笔记 （5）

感知机原理、例题和习题2.3推导

二分类线性模型以实例的特征向量作为输入，输出则为对应的类别标签。

感知机在输入空间中对应于将实例划分为正负两类的分离超平面，其本质属于判别模型；

• 引入基于误分类情况的损失函数；
• 采用梯度下降法对损失函数进行最小化处理；
• 感知机的学习算法具备结构简单且便于实现的优势，具体可分为原始形式与对偶形式两种；
• 该模型由Rosenblatt于1957年提出，是神经网络和支持向量机发展的重要基础。

定义（感知机）：

假设输入空间（即特征空间）为

，输出域为

特征向量用于表