卷积神经网络结构优化综述

摘要：

近年来,卷积神经网络(Convolutional neural network,CNNs)在计算机视觉、自然语言处理、语音识别等领域取得了突飞猛进的发展,其强大的特征学习能力引起了国内外专家学者广泛关注.然而,由于深度卷积神经网络普遍规模庞大、计算度复杂,限制了其在实时要求高和资源受限环境下的应用.对卷积神经网络的结构进行优化以压缩并加速现有网络有助于深度学习在更大范围的推广应用,目前已成为深度学习社区的一个研究热点.本文整理了卷积神经网络结构优化技术的发展历史、研究现状以及典型方法,将这些工作归纳为网络剪枝与稀疏化、张量分解、知识迁移和精细模块设计4个方面并进行了较为全面的探讨.最后,本文对当前研究的热点与难点作了分析和总结,并对网络结构优化领域未来的发展方向和应用前景进行了展望.

关键词：卷积神经网络、结构优化、网络剪枝、张量分解、知识迁移

所属期刊栏目：46

资助基金：国家自然科学基金;中央高校基本科研业务费专项资金;重庆市基础科学与研究技术专项;重庆大学科研后备拔尖人才;重庆市重点科技专项子项

在线出版日期：2020-04-09（万方平台首次上网日期，不代表论文的发表时间）

页数：共14页

页码：24-37