递归pi-sigma神经网络的带惩罚项的梯度算法分析

摘要：

传统的梯度算法存在收敛速度过慢的问题,针对这个问题,提出一种将惩罚项加到传统误差函数的梯度算法以训练递归pi-sigma神经网络,算法不仅提高了神经网络的泛化能力,而且克服了因网络初始权值选取过小而导致的收敛速度过慢的问题,相比不带惩罚项的梯度算法提高了收敛速度.从理论上分析了带惩罚项的梯度算法的收敛性,并通过实验验证了算法的有效性.

关键词：递归pi-sigma神经网络、梯度算法、惩罚项、收敛性

所属期刊栏目：49

分类号：TP183;TP389.1(自动化基础理论)

资助基金：国家自然科学基金60763013;广西人才小高地创新团队计划[2007]71;广西教育厅基金项目TLZ100715;广西大学科研基金项目X081017

在线出版日期：2013-04-02（万方平台首次上网日期，不代表论文的发表时间）

页数：共4页

页码：43-46