阿里云史上最大规模降价:核心产品最高降幅达50%
券中社4月26日讯,阿里云宣布史上最大规模降价,核心产品价格全线下调15%至50%,存储产品最高降幅达50%。据悉,阿里云此次降价,意图进一步扩大公共云的用户基数和规模,提升云计算的市场渗透率。
此前报道
阿里云机器学习PAI发布基于HLO的全自动分布式系统 TePDist,并宣布开源
近日,阿里云机器学习平台PAI正式发布自研的基于HLO的全自动分布式深度学习系统 TePDist。它通过在HLO上做分布式策略搜索,能够与用户模型构建语言解耦。并且在保持通用性的同时,能够在可接受的策略搜索时间内,追求高性能分布式策略,同时用户无需修改模型主体代码,系统能够全自动地帮助用户做分布式扩展,有效解决了分布式框架长期以来在实际生产场景中手工优化和自动分布式工作存在的诸多性能和效率问题。
TePDist不仅仅是一个分布式Compiler,还拥有自己的分布式Runtime,以解决深度学习模型并行策略的自动搜索与分布式策略实施问题。在架构方面,TePDist采用Client/Server模式,实现分布式策略与模型描述的解耦。Server端是TePDist最重要部分,以HLO IR作为输入,自动探索并实施分布式并行策略;Client端以用户描述的模型为输入,将其转换成HLO IR。因此,任何具有转换HLO IR能力的Client,都可经过适配后接入Server端。
在功能方面,TePDist分为两个部分。一是在HLO IR上进行SPMD(Data Parallel和Sharding)和Pipeline并行的策略搜索。并以此构建编译基于Task Graph的执行计划。二是高效运行执行计划的分布式执行引擎。同时,TePDist提供了不同优化级别,高优化级别更加追求分布式策略质量,低优化级别会额外采取一些Heuristic,以较为微小策略质量牺牲,换取更快地搜索时间,以此满足落地需求。
性能上,TePDist通过在GPT和MoE模型上SPMD+Pipeline混合策略的模型扩展性实验,TePDist能够使GPT和MoE分别达到峰值能力的62%和58%。同时,在自动化方面的通用性上,TePDist也通过了VGG-19,DNABert和UNet等模型实验验证。
一直以来,大模型在模型效果上被证明具有显著优势。而ChatGPT的出现,证明了其在工业生产工具方面具有巨大潜力。阿里云机器学习平台PAI也宣布将TePDist开源,与AI开发者共同打造更快更好的自动分布式系统,全面助力AI大模型发展!
0人
- 每日推荐
- 股票频道
- 要闻频道
- 港股频道
- 我国可重复使用试验航天器成功着陆
- 明年初赴港IPO募资20亿美元?菜鸟回应:暂无明确上市计划消息
- 罕见!大金融延续涨幅,中信银行强势涨停
- 沸腾了!中特估引爆A股,飙上3400点,狂掀涨停潮!淄博彻底火了:超1000亿
- 刚刚,罕见暴涨
- 中央财经委员会聚焦现代化产业体系
- 中消协:新能源汽车消费领域的投诉存在四个问题
- [隆众聚焦]:丙烯酸及酯同质化竞争压力或增大
- 同花顺iFind金融数据终端 免费试用7天
- 80股获100家以上机构调研 安井食品最受关注