Defending against universal attacks through selective feature regeneration

CVPR2020-通过选择性特征再生防御通用攻击

有一段时间内，本人对所阅读的论文没有及时将相关的翻译和笔记整理成文档形式。尽管在这些PDF文件中有一些个人备注，在较长时间后回头复习时采用成稿形式更为便利。

摘要

深度神经网络(DNN)显示出容易受到特意设计的抗受干扰影响的预测能力。特别地，在任何图像中加入图像未知的干扰（即通用抗受干扰）都可以欺骗目标网络使其做出错误判断。现有的防御策略主要集中在图像域上而我们提出了一种在DNN特征域实施的新防御策略有效地抵御这种通用干扰。我们的方法识别出最容易受抗噪声影响的预训练卷积特征并部署了可训练的特征再生单元将这些DNN滤波器激活转换为对通用干扰具有鲁棒性的弹性特征。在最多6个DNN层中恢复最高50%的相对敏感性活动同时保持其余所有DNN活动不变我们在恢复精度上相比现有跨不同网络架构的安全策略提高了10%以上。我们证明无需对现有系统进行任何修改即可在ImageNet数据集上使用一种类型通用攻击样本进行防御训练从而有效抵御其他类型的未知通用攻击

介绍

虽然深度神经网络（DNN）在计算机视觉领域取得了显著的成功，并广泛应用于各种场景[参考文献：25,…]:

大部分现有的对抗性攻击主要依靠目标网络模型梯度来构建依赖于图像的抗干扰样本，并受文献引用数据表明其在其他网络或图像迁移上的局限性的影响。此外，在生成基于图像的抗