基于段落内部推理和联合问题答案匹配的选择型阅读理解模型

摘要：

针对当前机器阅读理解方法中仅将问题与段落匹配会导致段落中的信息丢失或将问题和答案连接成单个序列与段落匹配会丢失问题与答案之间的交互,和传统的循环网络顺序解析文本从而忽略段落内部推理的问题,提出一种改进段落编码并且将段落与问题和答案共同匹配的模型.模型首先把段落在多个粒度下切分为块,编码器利用神经词袋表达将块内词嵌入向量求和,其次,将块序列通过前向全连接神经网络扩展到原始序列长度.然后,通过两层前向神经网络建模每个单词所在不同粒度的块之间的关系构造门控函数以使模型具有更大的上下文信息同时捕获段落内部推理.最后,通过注意力机制将段落表示与问题和答案的交互来选择答案.在SemEval-2018 Task 11任务上的实验结果表明,本文模型在正确率上超过了相比基线神经网络模型如Stanford AR和GAReader提高了9％～10％,比最近的模型SurfaceLR至少提高了3％,超过TriAN的单模型1％左右.除此之外,在RACE数据集上的预训练也可以提高模型效果.

关键词：共同匹配、多粒度、机器阅读理解

所属期刊栏目：56

分类号：TP391(计算技术、计算机技术)

资助基金：南方电网公司科技资助项目GZKJXM20170162;2018四川省新一代人工智能重大专项18ZDZX0137

在线出版日期：2019-08-05（万方平台首次上网日期，不代表论文的发表时间）

页数：共8页

页码：423-430