光滑抗磨练 training

1.关键问题识别与分析

1.1 基本信息

arVix 2020

1.2 做了什么

提出了一种标准对抗性训练（standard adversarial training, SAT）的平滑方法

1.3 实现方法

我们采用SAT的平滑近似方法（即一阶导数平滑）来替代传统的ReLU函数，这种平滑激活函数能够使鉴别器在对抗性训练过程中识别出更具挑战性的对抗样本，从而实现更优的梯度更新效果。

1.4 创新性

在不增加额外计算成本且不降低精度的前提下，该方式有效提升了对抗网络的鲁棒性。所采用的途径较为简便，实际应用效果亦较为理想。然而，在论文中并未对为何能够取得此类成效进行深入解析。

2.数学部分 & 模型构建

2.1 常识：什么是对抗性训练

卷积神经网络在面对对抗性样本时表现出较高的脆弱性，此类样本通常是在原始输入数据中嵌入微小扰动后生成的。对抗性训练 被广泛视为增强模型抗攻击能力的关键策略之一。然而，传统对抗性训练手段往往会对正常输入的识别精度造成一定程度的影响。当前学术界普遍认同，在计算资