基于输入分片扰乱的BP神经网络MapReduce训练方法

摘要：

BP神经网络的MapReduce训练中,每个map训练任务产生的中间权阵只对该训练节点上的输入分片收敛,为提高BP神经网络的训练效率,保证MapReduce训练的全局收敛性,提出一种基于输入分片扰乱的MapReduce训练方法.通过对训练样本集进行系统抽样来扰乱输入分片,并产生新的输入分片,依靠新的输入分片以map任务的原权阵为基础进行迭代训练,可加速MapReduce训练达到收敛的进程;为提高map训练任务的局部收敛速度,在每轮次的训练完成后,选取map任务产生的权阵中全局误差最小者,作为下轮次各map训练任务的初始权阵.在Ha-doop集群上的实验表明,该方法可使MapReduce训练BP神经网络的效率得到很大提升.

关键词：神经网络、MapReduce、输入分片、收敛

所属期刊栏目：54

分类号：TP301.6(计算技术、计算机技术)

资助基金：国家自然科学基金61462076;甘肃省自然科学基金1104GKCA023;甘肃省科技攻关项目1208RJZA134;西北师范大学青年教师科研提升计划NWNU-LKQN-12-30

在线出版日期：2018-01-26（万方平台首次上网日期，不代表论文的发表时间）

页数：共7页

页码：137-143