Going Deeper in Spiking Neural Networks：Notes on VGG and Residual Architectures

摘要

本文设计出一种将人工神经网络转化为脉冲神经网络的计算方法，并通过实验证实该方法在处理复杂视觉识别任务（例如cifar-10与ImageNet数据集）时具有良好的性能表现。

介绍

当直接将人工神经网络（ANN）转化为脉冲神经网络（SNN）时，其在SNN上的表现显著弱于原始的ANN，这主要源于SNN具备处理时序信息的特性，而这一能力在ANN中并不存在，两者在这一方面存在明显差异。

相关研究综述

主要贡献概述

1、在将ANN转换为SNN的过程中，对多种ANN架构施加若干限制条件。
2、设计一种适用于ANN向SNN转换的归一化处理方式。
3、开发一种可应用于SNN的残差模块结构。

---

准备工作

1、通过频率编码技术生成脉冲信号（即泊松脉冲），文中设定的时间步长为2500。
2、在人工神经网络中采用ReLU激活函数，而在脉冲神经网络中则使用积分-发放模型。
3、在将人工神经网络转换为脉冲神经网络的过程中，关键在于对脉冲神经网络的阈值与突触权重进行适当调整。若阈值设置过高，则需要更长时间才能触发一个脉冲；而阈值过低则难以有效区分输入信号之间的差异。

人工神经网络结构限制
1、未引入偏置项，这是由于在脉冲神经网络中偏置的存在会增加阈值参数调节的复杂性。由于未采用偏置项，因此无法使用批