黑盒攻击智能识别对抗算法研究现状

摘要：

智能识别对抗算法是深度学习领域一个全新的研究方向,获得越来越多的关注.介绍针对目标识别技术的黑盒攻击智能识别对抗算法的工作流程和主要环节,从算法原理、代价函数、攻击性能和应用场景等方面进行综述:分析开展黑盒攻击对训练数据和模型的条件需求及运用策略,归纳基于数据和基于代理模型开展智能识别对抗算法的原理及优缺点;从提高攻击有效性、增强攻击泛化性、降低模型迭代次数和拓展对抗样本应用场景角度,剖析基于代理模型的智能识别对抗算法研究进展,即多样化代价函数、集成训练模型、优化参数更新空间、改进参数更新策略等手段在对抗样本生成过程中的作用;以攻击人脸识别系统、自动驾驶系统和追踪系统为典型应用场景,梳理算法现实应用情况;以军事应用为背景,探讨开展黑盒攻击智能识别对抗算法研究面临的困难挑战及解决方案.

关键词：黑盒攻击、对抗样本、生成对抗网络、代理模型

所属期刊栏目：59

分类号：TP18(自动化基础理论)

资助基金：学院自主立项项目2021CJ45

在线出版日期：2023-07-18（万方平台首次上网日期，不代表论文的发表时间）

页数：共13页

页码：61-73