深度学习中的对抗样本问题

刘建伟左信张思思

中国石油大学（北京）;

摘要：

对抗样本是深度学习在安全领域中的热点问题,对抗样本的特性、生成、攻击方式以及如何防御对抗样本的攻击是当前研究对抗样本的重点问题.该文从对抗样本的概念、出现对抗样本的原因、对抗样本的攻击方式及原因阐述对抗样本的关键技术问题,对抗样本的概念主要是对对抗样本、对抗目标、对抗攻击所需知识的定义.该文列出了产生对抗样本的可能原因,目前,针对对抗样本出现的原因主要有三种观点:流形中的低概率区域解释,线性解释,此外,还有一种观点认为线性解释存在局限性,即当前的猜想都不能令人信服,进一步研究对抗样本出现的原因是未来重要的研究内容.并详细分析了对抗样本的几种典型生成方式:F-BFGS法、FGS法、迭代法、迭代最小可能类…展开v

关键词：对抗样本、特性、对抗样本生成、攻击方式、防御技术、深度学习、机器学习

所属期刊栏目：42

分类号：TP181(自动化基础理论)

资助基金：国家重点研发计划项目2016YFC0303703;中国石油大学北京年度前瞻导向及培育项目2462018QZDX02

在线出版日期：2019-09-23（万方平台首次上网日期，不代表论文的发表时间）

页数：共19页

页码：1886-1904