谷歌表示A3是专为训练和运行现时的生成式AI和大语言模型而打造的,可提供26exaFlops的AI性能。每台A3均包括第四代英特尔至强可扩展处理器、2TBDDR5-4800内存、8块NVIDIAH100GPU组成。这8块H100GPU通过NVSwitch和NVLink4.0互连,对分带宽能够达到3.6TB/s。
NVIDIAH100NVL
NVIDIA的超大规模和高性能计算副总裁IanBuck表示,“由NVIDIAH100GPU驱动的谷歌云A3将会加速生成式AI应用的训练和运行。继谷歌云最近推出的G2之后,我们很自豪可以继续和谷歌云合作,通过AI基础设施帮助世界各地的企业转型。”
此外,除了英特尔和NVIDIA提供的硬件之外,A3还搭载了谷歌自家定制的200GbpsIPU,它可以让GPU和GPU之间的数据绕过CPU,并可在其他虚拟机网络和数据流的接口上传输。相较A2,A3拥有10倍的网络带宽,且尾延迟更低,稳定性更高。同时,谷歌的Jupiter数据中心网络结构能让数以万计的GPU高度互连,而且能够按需调整网络拓扑,这有利于成本的降低。
现时谷歌A3尚未正式推出,如果想要使用的话,目前的唯一方法就是填写谷歌的预览意向表。而且它是一个面向企业的服务,跟个人用户关系并不大。不过说起来,如果能用上GoogleBard的话,某种意义上也算是体验过A3了。
举报/反馈
相关阅读 >>
openai ceo回应chatgpt作弊担忧:将协助开发检
能用gms和谷歌play商店了 民间大神破解win11安卓系统
以疾病模型平台+ai赋能创新靶向药研发,希格生科再获近千万美金天使+轮融资
安卓代码显示,谷歌pixel平板将配备专用底座,连接后秒变nest hub
更多相关阅读请进入《谷歌》频道 >>