12nm媲美7nm!燧原科技发布带宽最大的云端AI推理卡


本文摘自太平洋电脑网,原文链接:https://news.pconline.com.cn/1473/14736366.html,侵删。

12月7日,AI创业公司燧原科技(Enflame)发布了第二代云端AI推理加速卡——“云燧i20”。

这是继今年7月的云端AI训练加速卡“云燧T20”之后,燧原科技新一代针对云端推理场景的AI加速产品。

云燧i20最大亮点就是拥有迄今最大的AI加速卡存储带宽, 通过HBM2e内存达到了819GB/s ,可为云端推理业务提供高吞吐、低延时的性能。

目前,以语音识别、图片识别、视频内容分析为主的感知类应用,内容推荐、欺诈交易拦截等决策类应用,在云端大部分都是以实时在线的方式提供服务,同时神经网络的参数越来越多,数据带宽需求也越来越高,因此兼顾高带宽、低延迟变得至关重要。

12nm媲美7nm!燧原科技发布带宽最大的云端AI推理卡

云燧i20搭载了 新一代AI推理芯片“邃思” ,基于第二代高性能计算核心和数据引擎, 12nm工艺打造,通过架构升级大大提高了单位面积的晶体管效率,算力可媲美7nm GPU,而且成本更低。

12nm媲美7nm!燧原科技发布带宽最大的云端AI推理卡

搭配升级后的软件栈“ 驭算TopsRider ”,性能、开发效率、模型覆盖面都得到大幅提升。

通过引入通用高层图优化和大规模算子融合技术,释放大容量片内存储和高带宽存储的利用率,模型平均性能提升3.5倍,硬件算力利用率平均提升2倍。

通过升级的编程模型以及算子自动分片、自动生成技术,自定义算子开发效率翻倍,模型迁移成本大大降低。

此外,对动态性的支持也大大增强,在检测、语音识别、语义理解等场景更具竞争力。

据介绍,燧原科技专注AI领域云端算力平台,提供自主知识产权的高算力、高能效比、可编程的通用AI训练和推理产品,可广泛应用于云数据中心、超算中心、互联网、金融、智慧城市等多个人工智能场景,已在互联网、金融、政务等多家客户的商业落地,并获得认可。

相关阅读 >>

谷歌发布了为AI打造的a3超算

openAI正式推出gpt-4 AI产业变革迎更多机会

微软豪赌AI,能让chatgpt等AIgc工具普及给大众

首款鸿蒙汽车来了!AIto问界m5售价25万元起

AI能有效简化量子问题任务量 十万个方程减为四个

《garena 传说对决》AIc 2021|12/2 小组赛 day5 - 成都ag重点

知乎创始人周源:知乎大语言模型”知海图AI“,

深圳大学music实验室推出一款软件神器,大大提升医学影像AI标注的质量与一致性

英特尔张宇:网络AI将无处不在 软件定义基础设施将成主流

对话南航计算机学院副院长、iapr fellow张道强:如何高效提取脑影像的有效特征? | cmAI 2022

更多相关阅读请进入《AI》频道 >>



打赏

取消

感谢您的支持,我会继续努力的!

扫码支持
扫码打赏,您说多少就多少

打开支付宝扫一扫,即可进行扫码打赏哦

分享从这里开始,精彩与您同在

评论

管理员已关闭评论功能...