基于ALBERT-AFSFN的中文短文本情感分析

摘要：

针对传统的卷积神经网络未能充分利用不同通道间的文本特征语义信息和关联信息,以及传统的词向量表示方法采用静态方式对文本信息进行提取,忽略了文本的位置信息,从而导致文本情感分类不准确的问题,提出了一种结合ALBERT(a lite BERT)和注意力特征分割融合网络(attention feature split fusion network,AFSFN)的中文短文本情感分类模型ALBERT-AFSFN.该模型利用ALBERT对文本进行词向量表示,提升词向量的表征能力;通过注意力特征分割融合网络将特征分割为两组,对两组不同通道的特征进行提取和融合,最大程度保留不同通道之间的语义关联信息;借助Softmax函数对中文短文本情感进行分类,得到文本的情感倾向.在三个公开数据集Chnsenticorp、waimai-10k和weibo-100k上的准确率分别达到了93.33％、88.98％和97.81％,F1值也分别达到了93.23％、88.47％和97.78％,结果表明提出的方法在中文短文本情感分析中能够达到更好的分类效果.

关键词：ALBERT、分割注意力、特征融合、情感分析

所属期刊栏目：58

分类号：TP391.1(计算技术、计算机技术)

资助基金：贵州大学人才引进;贵州省科技计划

在线出版日期：2022-06-28（万方平台首次上网日期，不代表论文的发表时间）

页数：共7页

页码：170-176