稀疏神经网络加速器设计

摘要：

针对日益增长的神经网络规模和不断变化的神经网络模型结构,提出了一款新型的稀疏神经网络加速器架构.该架构能够有效利用稀疏神经网络中的权值稀疏性和神经元稀疏性,进一步提升加速器处理神经网络模型时的运算速度.同时,该架构能够支持逐元素乘法/加法等运算,从而进一步提高加速器的灵活性,高效支持并加速Resnet等新型的神经网络结构.实验结果显示,基于5个具有代表性神经网络模型,该架构相比于现有的先进的稀疏神经网络加速器有平均为2.57倍的加速比,同时针对Resnet-18和Res-net-50的BN层分别平均有4.40倍和4.57倍的加速比.

关键词：神经网络、稀疏神经网络、加速器

所属期刊栏目：29

资助基金：国家重点研发计划2017YFA0700900, 2017YFA0700901,2017YFA0700902,2017YFB1003101;国家自然科学基金61432016, 61532016, 61672491, 61602441, 61602446, 61732002,61702478;北京市自然科学基金JQ18013;973 计划2015CB358800;中国科学院科技成果转移转化重点专项 KFJ-HGZX-013 ,"核心电子器件、高端通用芯片及基础软件产品"科技重大专项2018ZX01031102;中国科学院战略性先导科技专项XDB32050200,XDC01020000

在线出版日期：2019-05-28（万方平台首次上网日期，不代表论文的发表时间）

页数：共10页

页码：222-231