面向深度可分离卷积的硬件高效加速器设计

摘要：

采用深度可分离(DS)卷积替代标准卷积已成为神经网络轻量化设计的趋势,但是由于深度可分离卷积不规则的数据维度和数据尺寸,现有卷积神经网络加速器在处理这类网络时计算并行度和计算单元(PE)利用率无法得到保证,导致加速器计算性能降低.针对这一问题,本文提出一种通道朝向的计算数据流,该数据流能够将数据维度不同的Depthwise卷积、Pointwise卷积和标准卷积在统一的数据流下展开运算.基于该数据流,设计了一款面向深度可分离卷积的加速器,该加速器采用统一的计算核心处理深度可分离卷积中各类卷积运算,在低面积开销下实现了高计算并行度.实验结果表明,与目前现有的深度可分离卷积加速器相比,该设计获得了1.32倍处理速度和1.76倍面积效率的提升.

关键词：深度可分离(DS)卷积;加速器;低面积;低延迟;利用率

所属期刊栏目：31

资助基金：国家重点研发计划;国家自然科学基金;北京市科技计划;中国科学院战略重点研究计划

在线出版日期：2021-09-15（万方平台首次上网日期，不代表论文的发表时间）

页数：共9页

页码：791-799