阿里云机器学习平台PAI论文入选 SIGMOD 2023

访客1年前AI生活125
阿里云机器学习平台PAI论文入选 SIGMOD 2023

近日,阿里云机器学习平台PAI和北京大学杨智老师团队合作的论文《GoldMiner: Elastic Scaling of Training Data Pre-Processing Pipelines for Deep Learning》被SIGMOD 2023录用。论文通过对深度学习数据预处理流水线的弹性伸缩,大幅提升了训练性能和集群资源利用效率。

999.jpg 

SIGMOD是数据库与数据管理系统领域的国际顶级会议,自1975年首次举办以来,一直对数据管理、存储和处理的发展起着深刻的推动作用,在学术和工业界均有巨大影响力。SIGMOD也重视数据管理系统与其他方向的交叉,尤其近年来也对机器学习和人工智能领域格外关注。此次入选意味着阿里云机器学习平台PAI在深度学习数据处理方向达到了全球业界先进水平,获得了国际学者的认可,展现了中国机器学习系统技术创新在国际上的竞争力。

近年来,随着GPU加速器的不断进化,以及各类软件优化技术的层出不穷,深度学习训练的计算效率正不断被提升到新的层次。但与此同时,深度学习本质上仍是一种多阶段、多资源的任务类型:不仅需要在GPU上进行大量的训练计算,同时往往也需要CPU端的数据预处理流水线(如数据增强、特征转换等),这类预处理计算是训练出高质量模型的必要步骤。因此,GPU端训练性能的提升也带来了更大的数据预处理压力,使后者成为新的性能瓶颈。

针对这一问题,在观察后发现数据预处理流水线具有无状态的特点,具有内在的资源弹性。基于此,GoldMiner将数据预处理流水线和模型训练部分分离执行,通过自动计算图分析来识别无状态的数据预处理计算,并对其实现高效的并行加速和弹性伸缩,从而缓解数据预处理瓶颈,提升训练性能。通过与集群调度器的协同设计,GoldMiner进一步发挥了数据预处理计算的资源弹性,大幅提升集群调度效率。实验显示GoldMiner可提升训练性能最高达12.1倍,提升GPU集群利用率达2.5倍。

目前阿里云机器学习平台 PAI正在将GoldMiner与PAI-DLC集成,以向用户提供数据预处理加速能力。机器学习平台PAI面向企业客户及开发者,提供轻量化、高性价比的云原生机器学习,涵盖PAI-DSW交互式建模、PAI-Designer可视化建模、PAI-DLC分布式训练到PAI-EAS模型在线部署的全流程。其中PAI-DLC提供了云原生一站式的深度学习训练平台,提供灵活、稳定、易用和高性能的机器学习训练环境。支持多种算法框架,超大规模分布式深度学习任务运行及自定义算法框架,为开发者和企业降本增效。

· 论文名字:GoldMiner: Elastic Scaling of Training Data Pre-Processing Pipelines for Deep Learning

· 论文作者:赵汉宇,杨智,程羽,田超,任仕儒,肖文聪,袁满,陈浪石,刘恺博,张杨,李永,林伟

· 论文pdf链接:https://dl.acm.org/doi/pdf/10.1145/3589773

本站部分文章来自互联网,文章版权归原作者所有。如有疑问请联系QQ:362580117!

相关文章

腾讯与海通证券签署深化战略合作协议,携手打造行业数字化转型新标杆

腾讯与海通证券签署深化战略合作协议,携手打造行业数字化转型新标杆

7月6日,腾讯与海通证券签署深化全面战略合作协议,海通证券董事长周杰,副总经理兼首席信息官毛宇星,腾讯集团高级执行副总裁、云与智慧产业事业群C...

蚂蚁集团被独立研究机构列入《2023Q1亚太企业反欺诈市场格局》第一梯队

蚂蚁集团被独立研究机构列入《2023Q1亚太企业反欺诈市场格局》第一梯队

近日, 国际权威研究机构Forrester发布《 2023年第一季度亚太企业欺诈管理格局报告》(The Enterprise Fraud Ma...

社区智慧化、便民化,满满的智慧范

社区智慧化、便民化,满满的智慧范

今年,咱家门口将有哪些新变化?老旧楼院改造一直是大家关注的热点话题。近日,记者从市北区各部门和各街道了解到,今年,不少楼院都将迎来新...

扫地机器人「退潮」:内卷、降价、裁员

扫地机器人「退潮」:内卷、降价、裁员

“每逢业绩不好,最悲催的就是职业经理人,被推出来顶包然后辞退走人。” 家用扫地机公司电商运营高管文凯摇着头,愁眉苦脸地告诉小编,在他之前,已有...

AI画作卖出43.25万美元!脉友:担心被替代

AI画作卖出43.25万美元!脉友:担心被替代

从智能驾驶汽车到智能语音,从机械手臂到脸部识别,AI医疗,AI作诗,AI下棋等,越来越多的AI技术渗透到更多场景中,甚至有网友曝料自己用AI...

走访致景纺织智造园智能工厂,探索数智化生产高效与创新

走访致景纺织智造园智能工厂,探索数智化生产高效与创新

 随着科技的不断进步,纺织产业也在不断转型升级,产业集群化和智能化的发展模式成为行业的重要趋势。四川致景纺织智造园就是一个配备先进的自动化、智能化纺织生产设备的纺织生产织造园区。在...

发表评论    

◎欢迎参与讨论,请在这里发表您的看法、交流您的观点。