10.3969/j.issn.1006-2475.2022.07.019
加入奖励的GRU对抗网络文本生成模型
针对目前生成对抗网络文本生成模型采用有监督形式造成的错误累计以及生成文本信息单一等问题,提出一种基于GRU生成对抗网络的文本生成模型,GRU生成器采用策略梯度进行参数更新,且该模型增加蒙特卡洛搜索推导生成样本序列.采用参数较少的GRU神经网络作为生成器和判别器,判别器的输出loss函数指导生成过程中的参数优化,以蒙特卡洛策略思想补充生成过程中的非完整序列,减少错误累计并增加文本生成信息的丰富性.引入门截断机制,用自定义函数替换GRU网络中的sigmoid函数,改进当前时刻的隐含变量的激活函数,改善原函数收敛速度较慢且容易产生梯度消失问题,使之更适应本文模型.仿真实验结果表明本文模型丰富了文本生成的多样性,提高了模型的收敛速度,验证了本模型的有效性.该模型有较好的应用性.
生成对抗网络、文本生成、GRU神经网络、蒙特卡洛策略
TP391.4(计算技术、计算机技术)
2022-08-03(万方平台首次上网日期,不代表论文的发表时间)
共6页
121-126