基于预训练模型的机器阅读理解研究综述

摘要：

近年来深度学习技术不断进步,随着预训练模型在自然语言处理中的应用与发展,机器阅读理解不再单纯地依靠网络结构与词嵌入相结合的方法.预训练语言模型的发展推动了机器阅读理解的进步,在某些数据集上已经超越了人类的表现.简要介绍机器阅读理解以及预训练语言模型的相关概念,综述当下基于预训练模型的机器阅读理解研究进展,对目前预训练模型在相关数据集上的性能进行分析,总结了目前存在的问题并对未来进行展望.

关键词：深度学习、预训练模型、自然语言处理、机器阅读理解

所属期刊栏目：56

分类号：TP183(自动化基础理论)

资助基金：国防科技创新特区计划项目No.1916311LZ001003

在线出版日期：2020-06-10（万方平台首次上网日期，不代表论文的发表时间）

页数：共9页

页码：17-25