引入外部记忆的循环神经网络的口语理解

摘要：

循环神经网络(RNN)越来越在口语理解(Spoken Language Understanding,SLU)任务中显示出优势.然而,由于梯度消失和梯度爆炸问题,简单循环神经网络的存储容量受到限制.提出一种使用外部存储器来提高记忆能力的循环神经网络.并在ATIS数据集上进行了实验,并与其他公开报道的模型进行比较.结果说明,在口语理解任务上,提出的引入外部记忆的循环神经网络在准确性、召回率和F1值都有较明显提高,优于传统循环神经网络及其变体结构.

关键词：口语理解、循环神经网络、长短时记忆网络、神经图灵机

所属期刊栏目：55

分类号：TP391(计算技术、计算机技术)

资助基金：国家自然科学基金61365005,61663044,61761041;新疆大学博士科研启动基金BS160239

在线出版日期：2019-06-24（万方平台首次上网日期，不代表论文的发表时间）

页数：共5页

页码：145-148,161