一种随机配置网络的模型与数据混合并行学习方法

摘要：

随机配置网络(Stochastic configuration networks,SCNs)在增量构建过程引入监督机制来分配隐含层参数以确保其无限逼近特性,具有易于实现、收敛速度快、泛化性能好等优点.然而,随着数据量的不断扩大,SCNs的建模任务面临一定的挑战性.为了提高神经网络算法在大数据建模中的综合性能,本文提出了一种混合并行随机配置网络(Hybrid parallel stochastic configuration networks,HPSCNs)架构,即:模型与数据混合并行的增量学习方法.所提方法由不同构建方式的左右两个SCNs模型组成,以快速准确地确定最佳隐含层节点,其中左侧采用点增量网络(PSCN),右侧采用块增量网络(BSCN);同时每个模型建立样本数据的动态分块方法,从而加快候选"节点池"的建立、降低计算量.所提方法首先通过大规模基准数据集进行了对比实验,然后应用在一个实际工业案例上,表明其有效性.

关键词：增量学习方法;随机配置网络;模型并行;数据并行;大数据建模

所属期刊栏目：47

资助基金：国家自然科学基金;江苏省自然科学基金;中国博士后科学基金;流程工业综合自动化国家重点实验室开放基金资助

在线出版日期：2021-12-06（万方平台首次上网日期，不代表论文的发表时间）

页数：共11页

页码：2427-2437