Confusing Gradient Traps: Paper and Code Analysis (0)

论文： 《Obfuscated Gradients Give a False Sense of Security:Circumenting Defenses to Adversarial Examples》
链接： https://arxiv.org/abs/1802.00420
这篇论文也可以说是颇具争议与创新性并存的一篇研究成果。作为ICML2018的最佳论文，它曾一度引发诸多专家在Reddit和Twitter上的热烈讨论。因此，我计划投入一定的时间来深入研究这篇论文的内容。
P.S.由于毕业设计的选题不慎选择了“对抗样本”（Adversarial Examples）这一领域，据我了解，实验室乃至本校在这方面的研究都较为稀少。我希望能够在接下来的几个月内完成毕业设计，并真正掌握这部分内容。
同时也欢迎各位有相关研究经验的老师和同学们给予指导，为我提供一些学习方向上的建议。

简介：
目前一些针对对抗样本攻击的防御模型表面上似乎能够抵御基于优化策略的攻击，但实际上这仅是一种表象；在迭代攻击过程中，我们可能会遇到一种类似于梯度掩码的现象，我们将其称为 “混淆梯度” （ obfuscated gradients ）。基于这种混淆梯度进行迭代训练将无法实现最优的loss值，从而造成攻击失败的错觉。
混淆梯度这一现象可以分为