ResNet代码实现 为何采用全局平均池化

ResNet采用了stride=2的卷积进行下采样，并替代了传统的全连接层，并通过全局平均池化层进行了特征聚合。

GAP的本质作用是通过网络结构上的正则化手段来防止过拟合现象的发生。值得注意的是，在实际应用中使用这样的gap可能会导致收敛速度较慢。具体而言，在模型训练过程中我们通常会采用以下步骤：首先利用一个GAP对输入的N个特征图进行降维处理，并将其转换为尺寸为1×N大小的新特征图；随后通过class数量为1的一系列convolution kernels对处理后的特征图进行操作以生成最终结果。

①摘取重点于：为什么使用全局平均池化。

在卷积神经网络的发展初期,经过池化处理后通常会引入一个或多个全连接层,通过全连接层可以显著降低feature map的空间维度,进而输入到softmax分类器中进行识别任务。然而,由于其主要问题是参数数量庞大,导致模型结构过于复杂,容易产生过拟合现象。（如今很少采用大量的FC设计）替代传统的全局平均池化（AVP）进行操作,并无需额外引入Dropout即可解决这一问题

（作者自己思考的部分）全局平均池化层取代全连接层虽然带来了诸多好处但这种替代不利于迁移学习的原因在于参数在卷积网络中的分布较为固化。当引入新的分类时则意味着会有相当数量的卷积特征需要进行相应的调整而