一种循环卷积注意力模型的文本情感分类方法
情感分类对推荐系统、自动问答、阅读理解等下游应用具有重要应用价值,是自然语言处理领域的重要研究方向.情感分类任务直接依赖于上下文,包括全局和局部信息,而现有的神经网络模型无法同时捕获上下文局部信息和全局信息.文中针对单标记和多标记情感分类任务,提出一种循环卷积注意力模型(LSTM-CNN-ATT,LCA).该模型利用注意力机制融合卷积神经网络(Convolutional Neural Network,CNN)的局部信息提取能力和循环神经网络(Recurrent Neural Network,RNN)的全局信息提取能力,包括词嵌入层、上下文表示层、卷积层和注意力层.对于多标记情感分类任务,在注意力层上附加主题信息,进一步指导多标记情感倾向的精确提取.在两个单标记数据集上的F1指标达到82.1%,与前沿单标记模型相当;在两个多标记数据集上,小数据集实验结果接近基准模型,大数据集上的F1指标达到78.38%,超过前沿模型,表明LCA模型具有较高的稳定性和较强的通用性.
循环神经网络、卷积神经网络、注意力机制、情感分类
48
TP391(计算技术、计算机技术)
国家自然科学基金;山西省基础研究计划项目;山西省重点研发计划项目
2021-03-02(万方平台首次上网日期,不代表论文的发表时间)
共5页
245-249