CS231n学习笔记 Lecture 2 K近邻算法的距离度量方法及其超参数优化与交叉验证评估线性分类器性能

在2017年，《CS231n》课程的第二期由斯坦福大学李飞飞教授及其博士团队授课。在该节中介绍了KNN算法、距离度量算法以及线性分类器的基本概念。所有图像均来自课程PPT：http://cs231n.stanford.edu/slides/2017/cs231n_2017_lecture2.pdf。内容源自在线教学视频：https://www.youtube.com/watch?v=OoUX-nOEjG0&list=PL3FW7Lu3i5JvHM8ljYj-zLfQRF3EO8sYv。全程通过英文字幕学习。如有翻译不当之处请包涵。

引入

首先，我们要意识到，对于这样一个图像：

我们通常识别为一只普通的家猫；而计算机则仅限于处理一堆经过数字化处理的数据。显然地，在人眼看来微小的变化——如光照条件、猫咪的姿态、猫咪的种类、障碍物以及背景环境——在数据层面都会产生显著的影响。那么