基于注意力机制结合CNN-BiLSTM模型的电子病历文本分类

摘要：

为了解决中文电子病历文本分类的高维稀疏性、算法模型收敛速度较慢、分类效果不佳等问题,提出了一种基于注意力机制结合CNN-BiLSTM模型的病历文本分类模型.该模型首先使用word2vec工具进行词向量表示,利用多层卷积神经网络(convolutional neural networks,CNN)结构提取病历文本的局部特征,通过拼接操作丰富局部特征表示,再利用双向长短期记忆网络(bi-directional long short-term memory,BiLSTM)提取上下文的语义关联信息,获取句子级别的高层特征表达.最后通过Attention机制进行特征加权,降低噪声特征的影响,并输入softmax层进行分类.在多组对比实验的实验结果表明,该模型取得了97.85％的F1,有效地提升了文本分类的效果.

关键词：文本分类、卷积神经网络、双向长短期记忆神经网络、注意力机制

所属期刊栏目：22

分类号：TP391.1(计算技术、计算机技术)

资助基金：徐州市科技计划项目;江苏省研究生教育教学改革研究与实践课题;江苏省大学生创新创业项目;江苏省大学生创新创业项目

在线出版日期：2022-03-30（万方平台首次上网日期，不代表论文的发表时间）

页数：共8页

页码：2363-2370