512颗GPU!阿里达摩院发布全球最大AI预训练模型


本文摘自太平洋电脑网,原文链接:https://news.pconline.com.cn/1467/14677809.html,侵删。

11月8日,阿里巴巴达摩院公布了多模态大模型“M6”的最新进展,其参数已从万亿跃迁至10万亿,成为全球最大的AI预训练模型。

作为通用性AI大模型,M6拥有多模态、多任务能力,尤其擅长设计、写作、问答,在电商、制造业、文学艺术、科学研究等领域有广泛应用前景。

10月,M6再次突破业界极限, 使用512颗GPU,在10天内就训练出了具有可用水平的10万亿模型,相比去年发布的大模型GPT-3,M6实现了同等参数规模,能耗却只有1%。

512颗GPU!阿里达摩院发布全球最大AI预训练模型

另一方面,AI大模型扩展到千亿及以上参数的超大规模时,很难放在一台机器上,为此达摩院 在阿里云PAI自研Whale框架上搭建了MoE模型,并通过更细粒度的CPU offload技术,最终实现将10万亿参数放进512张GPU

512颗GPU!阿里达摩院发布全球最大AI预训练模型

目前,达摩院联合阿里云已推出 M6服务化平台 ,为大模型训练及应用提供完备工具,首次让大模型实现“开箱即用”,算法人员及普通用户均可方便地使用平台。

相关阅读 >>

《人工智能产业担当宣言》发布 致力推动ai企业共举科技担当

15年历史的老牌音乐播放器aimp更新 支持win11系统了

哈佛汽车金融全国官方客服电话热线大全已更新2023(实时/更新中)马斯克称盖茨对ai的理解太有限 多年来依然如此

deepmind 让 ai 首次在量子水平描述物质,nature:化学领域最有价值技术之一

gair 2021大会首日:18位fellow的40年ai岁月,一场技术前沿的传承与激辩

再建一个“京东”,阿里要多久?这次能成功?

蚂蚁集团副总裁重返学界,任复旦大学ai创新与产业研究院院长

平安好车主客服电话大全已更新2023(实时/更新中)阿里张勇回应哪些业务将独立上市:成熟一个 上

李开复:未来15年ai接管一半工作

微软 ai 作图上线完全免费,“奖励自己”可提升速度

更多相关阅读请进入《阿里》频道 >>



打赏

取消

感谢您的支持,我会继续努力的!

扫码支持
扫码打赏,您说多少就多少

打开支付宝扫一扫,即可进行扫码打赏哦

分享从这里开始,精彩与您同在

评论

管理员已关闭评论功能...