基于BERT和非自回归的医疗知识抽取

摘要：

为避免实体与关系独立抽取产生的误差累计及实体重叠问题,提出一种基于BERT和非自回归的联合抽取模型来进行医疗知识抽取.首先,通过BERT预训练语言模型进行句子编码;然后,采用非自回归(NAR,Non-autoregressive)的方法实现并行解码,抽取关系类型,并根据头尾实体的位置索引抽取实体,得到医疗实体的关系三元组;最后,将抽取出的实体和关系导入Neo4j图数据库中实现知识可视化.通过对电子病历中的数据进行人工标注得到数据集,实验结果表明,基于BERT和非自回归联合学习模型的F1值为0.92,precision值为0.93,recall值为0.92,与现有模型相比3项评价指标均有提升,表明本文方法能够有效抽取电子病历中的医疗知识.

关键词：联合学习、非自回归、BERT、实体重叠、电子病历

分类号：TP391.1(计算技术、计算机技术)

资助基金：新疆维吾尔自治区自然科学基金资助项目;新疆维吾尔自治区高校科研计划项目

在线出版日期：2023-03-06（万方平台首次上网日期，不代表论文的发表时间）

页数：共7页

页码：120-126