阿里云机器学习平台PAI论文入选 SIGMOD 2023

访客1年前AI生活137
阿里云机器学习平台PAI论文入选 SIGMOD 2023

近日,阿里云机器学习平台PAI和北京大学杨智老师团队合作的论文《GoldMiner: Elastic Scaling of Training Data Pre-Processing Pipelines for Deep Learning》被SIGMOD 2023录用。论文通过对深度学习数据预处理流水线的弹性伸缩,大幅提升了训练性能和集群资源利用效率。

999.jpg 

SIGMOD是数据库与数据管理系统领域的国际顶级会议,自1975年首次举办以来,一直对数据管理、存储和处理的发展起着深刻的推动作用,在学术和工业界均有巨大影响力。SIGMOD也重视数据管理系统与其他方向的交叉,尤其近年来也对机器学习和人工智能领域格外关注。此次入选意味着阿里云机器学习平台PAI在深度学习数据处理方向达到了全球业界先进水平,获得了国际学者的认可,展现了中国机器学习系统技术创新在国际上的竞争力。

近年来,随着GPU加速器的不断进化,以及各类软件优化技术的层出不穷,深度学习训练的计算效率正不断被提升到新的层次。但与此同时,深度学习本质上仍是一种多阶段、多资源的任务类型:不仅需要在GPU上进行大量的训练计算,同时往往也需要CPU端的数据预处理流水线(如数据增强、特征转换等),这类预处理计算是训练出高质量模型的必要步骤。因此,GPU端训练性能的提升也带来了更大的数据预处理压力,使后者成为新的性能瓶颈。

针对这一问题,在观察后发现数据预处理流水线具有无状态的特点,具有内在的资源弹性。基于此,GoldMiner将数据预处理流水线和模型训练部分分离执行,通过自动计算图分析来识别无状态的数据预处理计算,并对其实现高效的并行加速和弹性伸缩,从而缓解数据预处理瓶颈,提升训练性能。通过与集群调度器的协同设计,GoldMiner进一步发挥了数据预处理计算的资源弹性,大幅提升集群调度效率。实验显示GoldMiner可提升训练性能最高达12.1倍,提升GPU集群利用率达2.5倍。

目前阿里云机器学习平台 PAI正在将GoldMiner与PAI-DLC集成,以向用户提供数据预处理加速能力。机器学习平台PAI面向企业客户及开发者,提供轻量化、高性价比的云原生机器学习,涵盖PAI-DSW交互式建模、PAI-Designer可视化建模、PAI-DLC分布式训练到PAI-EAS模型在线部署的全流程。其中PAI-DLC提供了云原生一站式的深度学习训练平台,提供灵活、稳定、易用和高性能的机器学习训练环境。支持多种算法框架,超大规模分布式深度学习任务运行及自定义算法框架,为开发者和企业降本增效。

· 论文名字:GoldMiner: Elastic Scaling of Training Data Pre-Processing Pipelines for Deep Learning

· 论文作者:赵汉宇,杨智,程羽,田超,任仕儒,肖文聪,袁满,陈浪石,刘恺博,张杨,李永,林伟

· 论文pdf链接:https://dl.acm.org/doi/pdf/10.1145/3589773

本站部分文章来自互联网,文章版权归原作者所有。如有疑问请联系QQ:362580117!

相关文章

为基因大数据插上“大算力”云翅膀 腾讯健康发布组学平台

为基因大数据插上“大算力”云翅膀 腾讯健康发布组学平台

基因数据大爆炸时代,正全速袭来。随着新一代组学测序工具不断发展,组学测序不仅涵盖基因组学,还包括蛋白组学、微生物组学、免疫组学等,测序行业...

视比特机器人CEO邓文平博士:3D视觉行业拐点已至

视比特机器人CEO邓文平博士:3D视觉行业拐点已至

成立四年,融资六轮,核心产品在多个行业龙头企业批量交付,这家3D视觉与工业软件公司凭什么出圈?我们对话视比特机器人CEO邓文平博士,为您揭开...

预算3000,3款爆款投影仪怎么选?进来抄作业!

预算3000,3款爆款投影仪怎么选?进来抄作业!

         很多人为了在家也能畅享到影院级的观影体验,让客厅秒变电影院,都会选择一款家用投影仪在家搭建私人电影院,给生活带来一些品质感...

新型冠状病毒肺炎潜伏期最长可达 24 天,并非所有患者早期都有发热症状!

新型冠状病毒肺炎潜伏期最长可达 24 天,并非所有患者早期都有发热症状!

新型冠状病毒肺炎潜伏期最长可达 24 天,并非所有患者早期都有发热症状。 以上论述似乎颠覆了我们的已有认知,但的确是国家卫健委高级别专...

“人工智能”会不会最终取代“人”?ChatGPT这么回答的

人工智能是否会最终取代人类是一个复杂而有争议的问题。当前的人工智能技术在特定任务上已经展现出了惊人的能力,但要取代人类在所有方面的功能,目前...

疫情疫况:通过地图大数据,可以用以救助,或用以提醒!

疫情疫况:通过地图大数据,可以用以救助,或用以提醒!

在当下这个特殊时刻,与病毒肺炎的对抗是全国人民都无法置身事外的一场战役。 奔赴一线的是戴着口罩护目镜、穿着防护服的医护人员,在...

发表评论    

◎欢迎参与讨论,请在这里发表您的看法、交流您的观点。