一种基于DAG的网络流量调度器

摘要：

在如今的数据中心中,各种分布式任务往往会对各种不同的资源进行竞争,特别是网络资源.如果没有有效的网络调度,那么这种竞争就会降低整个数据中心的运行效率.以往的网络资源调度研究由于忽视了任务里计算与网络需求之间的具体关系,对于任务性能的提升十分有限.因此,旨在探索如何通过网络调度来缩短数据中任务的完成时间(job completion time,JCT),从而提升数据中心的整体效率.通过对基于有向无环图(directed acyclic graph,DAG)的分布式任务的深度分析,发现可以在降低它们的网络占用的同时,却不影响它们的JCT.根据这个发现,提出了一个利用计算图来加速任务执行的网络调度器JIT.为了实现JIT,首先将调度问题建模成为一个整数线性规划问题(integer linear programming,ILP),然后证明了这个ILP可以通过一个等价的线性规划模型(linear programming,LP)来快速求解.此外,通过一些合理的简化,将求解时间降低到了1s.与其他调度器的比较实验结果说明了JIT可以取得1.55倍的整体加速效果,从而有效提升数据中心的工作效率.

关键词：数据中心网络;分布式任务;网络调度;并行计算;任务完成时间;有向无环图

所属期刊栏目：58

分类号：TP393(计算技术、计算机技术)

资助基金：国家重点研发计划;国家自然科学基金;国家自然科学基金

在线出版日期：2022-01-13（万方平台首次上网日期，不代表论文的发表时间）

页数：共13页

页码：2798-2810