基于双向注意力机制和门控图卷积网络的文本分类方法

摘要：

现有基于图卷积网络的文本分类模型通常只是通过邻接矩阵简单地融合不同阶的邻域信息来更新节点表示,导致节点的词义信息表达不够充分.此外,基于常规注意力机制的模型只是对单词向量进行正向加权表示,忽略了产生消极作用的单词对最终分类的影响.为了解决上述问题,文中提出了一种基于双向注意力机制和门控图卷积网络的模型.该模型首先利用门控图卷积网络有选择地融合图中节点的多阶邻域信息,保留了之前阶的信息,以此丰富节点的特征表示;其次通过双向注意力机制学习不同单词对分类结果的影响,在给予对分类起积极作用的单词正向权重的同时,对产生消极作用的单词给予负向权重以削弱其在向量表示中的影响,从而提升模型对文档中不同性质节点的甄别能力;最后通过最大池化和平均池化融合单词的向量表示,得到文档表示用于最终分类.在4个基准数据集上进行了实验,结果表明,该方法明显优于基线模型.

关键词：文本分类、图卷积网络、注意力机制、文本表示、深度学习、自然语言处理

所属期刊栏目：50

分类号：TP391(计算技术、计算机技术)

资助基金：安徽省重点研究与开发计划项目202004d07020009

在线出版日期：2023-02-07（万方平台首次上网日期，不代表论文的发表时间）

页数：共8页

页码：221-228