基于汉语特征的中文对抗样本生成方法

摘要：

深度神经网络容易受到来自对抗样本的攻击,例如在文本分类任务中修改原始文本中的少量字、词、标点符号即可改变模型分类结果.目前NLP领域对中文对抗样本的研究较少且未充分结合汉语的语言特征.从中文情感分类场景入手,结合了汉语象形、表音等语言特征,提出一种字词级别的高质量的对抗样本生成方法CWordCheater,涵盖字音、字形、标点符号等多个角度.针对形近字的替换方式,引入ConvAE网络完成汉字视觉向量的嵌入,进而生成形近字替换候选池.同时提出一种基于USE编码距离的语义约束方法避免对抗样本的语义偏移问题.构建一套多维度的对抗样本评估方法,从攻击效果和攻击代价两方面评估对抗样本的质量.实验结果表明,CWordAttacker在多个分类模型和多个数据集上能使分类准确率至少下降 27.9%,同时拥有更小的基于视觉和语义的扰动代价.

关键词：中文情感分类、对抗样本、汉语特征

所属期刊栏目：34

分类号：TP18(自动化基础理论)

资助基金：国家自然科学基金;国家自然科学基金

在线出版日期：2023-11-10（万方平台首次上网日期，不代表论文的发表时间）

页数：共19页

页码：5143-5161