局部时间序列黑盒对抗攻击

摘要：

用于时间序列分类的深度神经网络由于其自身对于对抗攻击的脆弱性,导致模型存在潜在的安全问题.现有的时间序列攻击方法均基于梯度信息进行全局扰动,生成的对抗样本易被察觉.为此,文中提出了一种不需要梯度信息的局部黑盒攻击方法.首先,对抗攻击被描述为一个约束优化问题,并假设不能获得被攻击模型的任何内部信息;然后利用遗传算法求解该问题;最后由于时间序列shapelets提供了不同类别间最具辨别力的信息,因此将其设计为局部扰动区间.实验结果表明,在有潜在安全隐患的UCR数据集上,所提方法可以有效地攻击深度神经网络并生成对抗样本.此外,所提算法相比基准算法在保持较高攻击成功率的同时显著降低了均方误差.

关键词：黑盒对抗攻击、时间序列分类、局部扰动、遗传算法、Shapelet

所属期刊栏目：49

分类号：TP183(自动化基础理论)

资助基金：科技创新新一代人工智能重大项目;北京市自然科学基金;国家自然科学基金

在线出版日期：2022-10-20（万方平台首次上网日期，不代表论文的发表时间）

页数：共6页

页码：285-290