文献阅读 Deep residual learning on image recognition

深度残差学习在图像识别中的应用

---

He K, Zhang X, Ren S 等人于2016年在CVPR会议上发表了Deep Residual Learning for Image Recognition。

---

摘要

残差学习框架（residual learning framework）：以输入（inputs）作为基准，将层（layers）设定为用于学习残差的函数（learning residual functions）

残差网络（residual networks）具有良好的优化特性，可通过提升网络深度（depth）来增强准确率（gain accuracy）。

在众多视觉识别任务（visual recognition tasks）中，表示的深度（depth of representations）发挥着关键作用。

1 引言

深度网络具备提取基础、中级以及高级特征的能力，这些特征的“层级”可通过叠加网络层数（即深度）加以拓展。

梯度消失与梯度爆炸问题 可借助初始参数标准化及层间标准化技术予以缓解。

退化问题（degradation problem）