神经网络用于图像处理 KNN匹配 1

1、kNN算法亦被称作k近邻分类(k-nearest neighbor classification)算法。
在所有分类方法中，最基础且直观的可能是那种完全依赖记忆的分类方式，即完整存储所有训练样本，当面对新样本时，直接与训练数据进行比对，若存在属性完全一致的样本，则直接沿用该样本的类别作为新样本的判断结果。然而，这种方法存在一个显著问题，即在实际应用中往往难以找到与新样本属性完全一致的训练记录。

kNN算法则通过从训练集中选取与新样本最为接近的k个样本，再依据这些样本的主要类别来确定新样本所属类别。该方法主要涉及三个关键要素：训练数据集、用于衡量距离或相似性的指标、以及k值的选择。

2. 最近邻法：以下通过一个简单案例来阐述KNN算法的产生背景：最近邻法是KNN算法早期的一种形式。在判定未知样本类别时，该方法将全部训练数据视为参考点，并计算未知样本与每个训练样本之间的距离，最终以距离最近的那个样本所属类别作为未知样本的唯一分类依据。

从上述实例可以看出，绿色点采用最近邻算法进行分类时，其归属类别较为明确；然而对于蓝色点，若同样使用该方法，则可能存在误判的情况。这种误判可