基于迭代自编码器的深度学习对抗 样本防御方案

摘要：

近年来,深度学习在计算机视觉领域表现出优异的性能,然而研究者们却发现深度学习系统并不具备良好的鲁棒性,对深度学习系统的输入添加少许的人类无法察觉的干扰就能导致深度学习模型失效,这些使模型失效的样本被研究者们称为对抗样本.我们提出迭代自编码器,一种全新的防御对抗样本方案,其原理是把远离流形的对抗样本推回到流形周围.我们先把输入送给迭代自编码器,然后将重构后的输出送给分类器分类.在正常样本上,经过迭代自编码器的样本分类准确率和正常样本分类准确率类似,不会显著降低深度学习模型的性能;对于对抗样本,我们的实验表明,即使使用最先进的攻击方案,我们的防御方案仍然拥有较高的分类准确率和较低的攻击成功率.

关键词：对抗样本、自编码器、深度学习、图像分类

所属期刊栏目：4

分类号：TP309(计算技术、计算机技术)

在线出版日期：2020-03-18（万方平台首次上网日期，不代表论文的发表时间）

页数：共11页

页码：34-44