Adversarial Attack（李宏毅）

当前在对抗攻击与防御领域中，Adversarial Attack的实施显得尤为简便。该研究方向主要聚焦于对抗性攻击与防护技术，现阶段攻击手段相对容易实现，而防御措施则面临较大挑战。

Motivation

当神经网络模型被引入实际应用场景时，仅具备较高的识别准确率并不足以满足需求，还需具备抵御外部“恶意”行为的能力。尤其是在垃圾邮件分类、恶意软件检测以及网络入侵识别等任务中，负类样本往往采取各种手段试图“欺骗”模型，从而干扰其对负类的判断。因此，构建具备应对此类攻击能力的模型成为亟需解决的问题。

How to Attack

以图像识别为例，阐述攻击实施的方式：

通常添加的噪声极其微弱，微弱至人类肉眼难以察觉。针对攻击方式的分类主要包含两类：无目标攻击（non-targeted）与有目标攻击（targeted），其中前者实现起来相对较为简单，而后者则较为困难。advers