KNN算法:线性扫描的方法实现
发布时间
阅读量:
阅读量
(2020.8.26)对程序调用部分进行了调整,通过测试验证后能够获得相应结果。
K-最近邻算法(K - Nearest Neighbors,KNN)是一种基础的分类与回归技术,可视为最近邻算法(K=1)的扩展形式。
KNN的核心思想在于:在特定区域内确定一定数量的K个样本,若这些样本中大部分归属于某一类别,则未知样本将被归类至该类别 。
在确定最优的K值时,需依据具体数据情况而定。通常而言,在进行分类任务时,较大的K值有助于降低噪声干扰的影响,但同时可能导致类别边界变得不清晰。
图示说明:
待测样本(绿色圆圈)存在被归入红色三角形类或蓝色正方形类的可能性。当k取3时,从图中可以看出,待测样本的三个邻近点位于实线所围成的内圆区域中,根据多数投票原则,其应归属红色三角形类。然而若k取5,则待测样本的五个最接近样本分布在虚线所划定的圆形区域内,并依据多数表决机制 ,其又被判定为蓝色正方形类。在实际操作过程中,通常先设定一个较小的初始K值,并结合交叉验证方法逐步优化调整该参数值,最终找到适用于当前数据集的最佳K数值。

而我们在意的三个问题是:**
全部评论 (0)
还没有任何评论哟~
