基于分布式缓存加速容器化深度学习的优化方法

摘要：

使用GPU运行容器化深度学习模型训练任务,性能往往受限于数据加载和预处理效率.很多GPU计算资源浪费在等待从远程存储服务读取数据的过程中.首先介绍了基于容器和分布式缓存技术加速深度学习训练的方法,以及使用Alluxio和Kubernetes实现的系统架构和初步优化手段;然后阐述了TDCS及其训练任务与缓存数据互感知的协同调度策略;接着在Kubernetes容器集群中实现了TDCS,增强了分布式缓存加速大规模深度学习训练的可扩展性;最后用ResNet50图像分类模型训练任务进行性能验证.实验结果表明,相较于直接从远程存储服务中读取数据,TDCS可对运行在128块NVIDIA V100 GPU设备上的分布式训练任务实现2～3倍加速.

关键词：深度学习;分布式缓存;协同调度;Alluxio;容器

所属期刊栏目：7

分类号：TP311(计算技术、计算机技术)

在线出版日期：2021-10-12（万方平台首次上网日期，不代表论文的发表时间）

页数：共14页

页码：150-163