基于非线性修正函数的卷积神经网络图像识别研究

摘要：

为了解决深度学习中使用线性修正函数ReLUs对于模型的表达能力欠缺,而柔性光滑函数Sogplus无稀疏表达能力的问题.基于ReLUs和Softplus函数各自的优点,将ReLUs函数的稀疏表达能力和Softplus函数的光滑特性结合起来,提出一种使用非线性修正函数作为神经元激励的方法.分析了不同激活函数的性能,并且用卷积神经网络在MNIST和CIFAR-10标准数据库上进行图像分类识别实验.实验结果表明,使用非线性修正激活函数,不仅可以加快网络收敛速度,也可以提高识别准确率;同时还不依赖于池化方法的选择.

关键词：深度学习、卷积神经网络、模式识别、非线性修正函数

所属期刊栏目：15

分类号：TP391(计算技术、计算机技术)

在线出版日期：2016-01-06（万方平台首次上网日期，不代表论文的发表时间）

页数：共5页

页码：221-225