分类算法中的k近邻算法与实例相关

分类算法-k近邻算法（KNN）

定义：当某一样本在特征空间中与其最相近的k个样本中，大部分归属于某一特定类别时，则可判定该样本同样属于这一类别。

算法来源：KNN分类方法最初由Cover与Hart共同提出，作为一种用于分类任务的算法。

流程 ----针对具有未知类别属性的数据集中的某一点：

1. 确定已知类别数据集中各点与当前点之间的距离值

2. 按照计算所得的距离大小进行排序操作

3. 选择与当前点距离最近的k个样本点

4. 统计这k个样本所属类别的分布情况

5. 将出现频率最高的类别作为当前点的预测分类结果。

k近邻方法在应用过程中需要进行标准化处理，以确保不同特征之间的可比性。

计算距离公式：采用欧氏距离作为衡量标准。

例如：a(a1,a2,a3) 与 b(b1,b2,b3)

sklearn k-近邻算法API ：

sklearn.neighbors.KNeighborsClassifier(n_neighbors=5,algorithm=‘auto’)

n_neighbors：int，