生成对抗样本的研究笔记

文章结构概述

• • 1 研究背景

    • 2 类别划分

    • • 2.1 黑箱与白箱模型
      • 2.2 有明确目标的对抗与无明确目标的对抗
      • 2.3 对抗样本生成方法
      • • 2.3.1 基于梯度优化损失函数的方法

    • 2.3.2 基于目标函数优化的策略

    • 2.3.3 基于几何特性的生成方式

    • 2.3.4 基于生成对抗网络的生成方法

    • 2.3.5 基于决策访问次数的生成方式

      • 2.3.6 其他相关方法

    • 3 对抗样本实现代码库

    • • 3.1 cleverhans 工具库
      • 3.2 advBox 工具包
      • 3.3 foolbox 工具集

    • 4 补充说明

    • 5. 文献引用列表

1 引言

对抗样本（adversarial examples）这一概念最初由goodfellow提出，其目的在于揭示神经网络在高维特征空间中因具备线性特性而易被误导的现象[1]。对于对抗样本的界定相对简单，即通过对输入样本施加微小的扰动，使得神经网络最终输出的结果偏离预期。然而，这种微小的扰动应当建立在人类仍能辨识目标物体的基础之上，并且最好是人类难以察觉的。目前，对抗样本主要应用于两个方面：其一，用于防范某些不法