阿里云史上最大规模降价:核心产品最高降幅达50%
据科创板日报,阿里云宣布史上最大规模降价,核心产品价格全线下调15%至50%,存储产品最高降幅达50%。据悉,阿里云此次降价,意图进一步扩大公共云的用户基数和规模,提升云计算的市场渗透率。
相关阅读
阿里云机器学习PAI发布基于HLO的全自动分布式系统 TePDist,并宣布开源
近日,阿里云机器学习平台PAI正式发布自研的基于HLO的全自动分布式深度学习系统 TePDist。它通过在HLO上做分布式策略搜索,能够与用户模型构建语言解耦。并且在保持通用性的同时,能够在可接受的策略搜索时间内,追求高性能分布式策略,同时用户无需修改模型主体代码,系统能够全自动地帮助用户做分布式扩展,有效解决了分布式框架长期以来在实际生产场景中手工优化和自动分布式工作存在的诸多性能和效率问题。
TePDist不仅仅是一个分布式Compiler,还拥有自己的分布式Runtime,以解决深度学习模型并行策略的自动搜索与分布式策略实施问题。在架构方面,TePDist采用Client/Server模式,实现分布式策略与模型描述的解耦。Server端是TePDist最重要部分,以HLO IR作为输入,自动探索并实施分布式并行策略;Client端以用户描述的模型为输入,将其转换成HLO IR。因此,任何具有转换HLO IR能力的Client,都可经过适配后接入Server端。
在功能方面,TePDist分为两个部分。一是在HLO IR上进行SPMD(Data Parallel和Sharding)和Pipeline并行的策略搜索。并以此构建编译基于Task Graph的执行计划。二是高效运行执行计划的分布式执行引擎。同时,TePDist提供了不同优化级别,高优化级别更加追求分布式策略质量,低优化级别会额外采取一些Heuristic,以较为微小策略质量牺牲,换取更快地搜索时间,以此满足落地需求。
性能上,TePDist通过在GPT和MoE模型上SPMD+Pipeline混合策略的模型扩展性实验,TePDist能够使GPT和MoE分别达到峰值能力的62%和58%。同时,在自动化方面的通用性上,TePDist也通过了VGG-19,DNABert和UNet等模型实验验证。
一直以来,大模型在模型效果上被证明具有显著优势。而ChatGPT的出现,证明了其在工业生产工具方面具有巨大潜力。阿里云机器学习平台PAI也宣布将TePDist开源,与AI开发者共同打造更快更好的自动分布式系统,全面助力AI大模型发展!
0人
- 每日推荐
- 股票频道
- 要闻频道
- 港股频道
- 重磅利好!国常会部署支持这些产业
- 【十大券商策略】“中特估”行情持续!当前市场机会大于风险
- 1700亿半导体龙头领衔,新一波减持公告来袭
- 近15万股东踩雷 多家公司被立案调查!1700亿半导体龙头领衔 新一波减持公告来袭 最高拟减持超1.2亿股
- 周一机构一致最看好的10金股
- 王石离婚?回应来了!WHO重磅宣布
- 9家公司敲响面值退市警钟 有公司抛增持计划“临时抱佛脚”收关注函
- 2022年993家A股上市公司参与“炒股” 3家投资超百亿元
- 同花顺iFind金融数据终端 免费试用7天
- 下周解禁市值大降近50%!这只股票大股东浮盈近30亿