谷歌表示A3是专为训练和运行现时的生成式AI和大语言模型而打造的,可提供26exaFlops的AI性能。每台A3均包括第四代英特尔至强可扩展处理器、2TBDDR5-4800内存、8块NVIDIAH100GPU组成。这8块H100GPU通过NVSwitch和NVLink4.0互连,对分带宽能够达到3.6TB/s。
NVIDIAH100NVL
NVIDIA的超大规模和高性能计算副总裁IanBuck表示,“由NVIDIAH100GPU驱动的谷歌云A3将会加速生成式AI应用的训练和运行。继谷歌云最近推出的G2之后,我们很自豪可以继续和谷歌云合作,通过AI基础设施帮助世界各地的企业转型。”
此外,除了英特尔和NVIDIA提供的硬件之外,A3还搭载了谷歌自家定制的200GbpsIPU,它可以让GPU和GPU之间的数据绕过CPU,并可在其他虚拟机网络和数据流的接口上传输。相较A2,A3拥有10倍的网络带宽,且尾延迟更低,稳定性更高。同时,谷歌的Jupiter数据中心网络结构能让数以万计的GPU高度互连,而且能够按需调整网络拓扑,这有利于成本的降低。
现时谷歌A3尚未正式推出,如果想要使用的话,目前的唯一方法就是填写谷歌的预览意向表。而且它是一个面向企业的服务,跟个人用户关系并不大。不过说起来,如果能用上GoogleBard的话,某种意义上也算是体验过A3了。
举报/反馈
相关阅读 >>
rog幻16翻转版笔记本再曝光:双m.2硬盘位 支持组建raid 0
美最大互联网隐私案达成和解:谷歌同意支付3.915亿美元与美40个州检方和解
不盲追大模型与堆算力!马毅、曹颖、沈向洋提出理解 ai 的两个基本原理:简约性与自一致性
帷幄创始人叶生晅:一名用 ai 打造未来品牌的 80 后「极客」创业者
可解释ai先驱、深理工潘毅教授:ai制药,要多做「用结构找小分子」的逆向工程 | gair 2021
更多相关阅读请进入《谷歌》频道 >>