从发展史来看九个关键模型

1998， Yann LeCun 的 LeNet5

图像特征在整个视觉内容中呈现出分布特性
在多个不同位置提取相似特征时，若模型具备可学习的参数，卷积操作便成为一种较为高效的实现方式，尤其适用于参数数量有限的情形
在未使用GPU进行计算的情况下，保存模型参数以及降低计算复杂度则成为一项重要的技术优势
LeNet5并未将图像中的每一个像素点都作为大型多层神经网络的输入节点，这是由于图像本身具有显著的空间相关性。如果采用这种方式，则难以有效捕捉这种空间上的关联特性

LeNet5 的主要特征：

• CNN 主要由这3个层次构成：卷积层、池化层以及非线性激活层
• 利用卷积操作来获取图像中的空间信息
• 通过空间平均的方式实现特征降采样
• 使用 tanh 或 sigmoid 函数引入非线性变换
• 最终采用多层神