基于纹理特征约束的神经网络模型鲁棒性提升方法

摘要：

深度学习模型可以从原始数据中自动学习到数据的纹理特征和形态特征,使得其在安全验证、识别分类、语音人脸识别等不同领域取得远远超过人工特征方法的性能.虽然深度学习在图像分类和目标检测等方向上取得了较好成效,但是通过在输入上添加难以察觉的微小扰动形成的对抗样本导致深度学习模型在实际使用中存在巨大的风险.因此,提高单个模型的鲁棒性是重要的研究方向.前人在时序数据分类模型的鲁棒性研究中,对抗样本的解释性研究较为欠缺.目前较为常见的防御对抗样本的方法是对抗训练,但是对抗训练有着非常高的训练代价.本文以时序数据分类模型为研究对象,定义了时序数据的纹理特征和形态特征,并基于理论证明和可视化特征层方式,说明了纹理特征是被攻击的关键因素.同时,提出了一种基于特征约束的模型鲁棒性提升方法.该方法结合多任务学习,通过在误差函数中增加特征的平滑约束项,引导模型在分类的同时尽可能学习到原始数据的形态特征.在保证分类精度的同时,降低对抗样本存在的空间,从而训练出更加鲁棒的模型.算法在经典分类模型和多个时序数据集进行了大量的实验,实验结果表明了本文方法的有效性,在多种对抗攻击下,能较好的提高单个模型的鲁棒性.

关键词：时序数据分类、对抗样本、纹理特征、鲁棒性

所属期刊栏目：8

分类号：TP183;TP391.4(自动化基础理论)

资助基金：国家自然科学基金;北京市自然科学基金

在线出版日期：2023-03-08（万方平台首次上网日期，不代表论文的发表时间）

页数：共14页

页码：26-39