复杂异构计算系统HPL的优化

摘要：

当今世界的主流超级计算机越来越多地使用带有加速器的异构系统.随着加速器的浮点性能不断提高,超级计算机内计算节点的CPU、内存、总线、网络以及系统架构都要与之相适应.HPL(high performance Linpack)是高性能计算机评测的传统基准测试程序,复杂异构系统给HPL评测带来很多机遇与挑战.针对带有GPU的异构超级计算机系统,提出一套新的CPU与加速器计算任务分配方式,提出平衡点理论指导HPL性能优化.为了优化HPL程序,提出了使用CPU与加速器协同工作的look-ahead算法和行交换连续流水算法,实现了加速器、CPU、网络等部件的高度并行.此外,为带有加速器的系统设计了新的panel分解和行交换的实现方法,提高了加速器的利用率.在每个节点带有4个GPU的系统上,单节点HPL效率达到了79.51％.

关键词：复杂异构系统;平衡点理论;panel分解加速;连续流水线算法

所属期刊栏目：32

分类号：TP303(计算技术、计算机技术)

资助基金：中国科学院战略性先导科技专项C类;国家重点研发计划;国家自然科学基金

在线出版日期：2021-08-31（万方平台首次上网日期，不代表论文的发表时间）

页数：共12页

页码：2307-2318