基于位串行计算的动态精度神经网络处理器

摘要：

针对当前神经网络动态精度计算系统在周期性的模型重训练和动态精度切换的过程中会引入大量的计算和访存开销问题,提出了基于串行位计算的动态精度神经网络处理器(DPNN),其可支持任意规模、任意精度的神经网络模型;支持以非重训练的方式对模型数据精度进行细粒度调整,并消除了动态精度切换时因权值bit位重叠造成的重复计算与访存.实验结果表明,相较于自感知神经网络系统(SaNNs)的最新进展之一MinMaxNN,DPNN可使计算量平均降低1.34～2.52倍,访存量降低1.16～1.93倍;相较于代表性的bit串行计算神经网络处理器Stripes,DPNN使性能提升2.57倍、功耗节省2.87倍、面积减少1.95倍.

关键词：神经网络处理器、动态精度计算、位串行计算

所属期刊栏目：32

分类号：TP303;TN713.7;TP183

资助基金：国家重点研发计划;国家自然科学基金;国家自然科学基金;国家自然科学基金;国家自然科学基金;北京智源人工智能研究院;中国科学院稳定支持基础研究领域青年团队计划;中国科学院青年创新促进会项目

在线出版日期：2022-12-29（万方平台首次上网日期，不代表论文的发表时间）

页数：共13页

页码：881-893