Advertisement

《统计学习方法(第二版)》李航 笔记(6):k近邻算法与习题解答

阅读量:

《统计学习方法(第二版)》李航 读书笔记 (6)

k-近邻算法,习题3

k-邻近法是一种基本的分类与回归技术。给定实例的特征向量,在特征空间中对应特定位置;其输出则为其所属类别,在多个类别中任选其一。该方法基于训练数据集进行分类与回归操作,在此过程中假定每个训练样本已被明确归类。当处理新样本时,在已知训练数据集的基础上进行分析,在其附近提取前k个最相似的数据点,并基于这些点所属类别进行预测。该方法无需显式的模型训练阶段。

算法3.1 k近邻法

  1. 基于选定的距离指标,在训练数据集T内确定与样本x最为接近的k个实例;
  2. 通过应用分类决策规则(例如多数投票法)来确定样本x所属的类别y。

在样本空间中,在每个训练样本xi周围形成一个区域,在该特定位置上与该特定样本相比与其他所有样本的距离都较近的所有样本构成一个区域称为胞间(cell)。最邻近法通过将实例xi所属的类别yi作为其胞间内所有样本的类别标记(class label)来进行分类

![](https://ad.itadn.com/c/weblog/blog-img/images/2025-05-31/GMA

全部评论 (0)

还没有任何评论哟~