基于密集连接卷积神经网络的远程监督关系抽取

摘要：

密集连接卷积神经网络(DcnscNet)是一种新型深度卷积神经网络架构,通过建立不同层间的连接关系,来确保网络层与层间最大程度的信息传输.在文本远程监督关系抽取任务中,针对现有神经网络方法使用浅层网络提取特征的局限,设计了一种基于密集连接方式的深度卷积神经网络模型.该模型采用五层卷积神经网络构成的密集连接模块和最大池化层作为句子编码器,通过合并不同层次的词法、句法和语义特征,来帮助网络学习特征,从而获取输入语句更丰富的语义信息,同时减轻深度神经网络的梯度消失现象,使得网络对自然语言的表征能力更强.模型在NYT Freebase数据集上的平均准确率达到了82.5％,PR曲线面积达到了0.43.实验结果表明,该模型能够有效利用特征,并提高远程监督关系抽取的准确率.

关键词：深度学习、关系抽取、远程监督、卷积神经网络、密集连接

所属期刊栏目：47

分类号：TP391(计算技术、计算机技术)

资助基金：中国科学院网络测评技术重点实验室开放课题基金NST-18-001

在线出版日期：2020-04-24（万方平台首次上网日期，不代表论文的发表时间）

页数：共6页

页码：157-162