推广 热搜: 京东  联通  iphone11  iPhone  摄像头  网络安全  自动驾驶  企业存储  XSKY  京东智能采购 

AMD携手Cerebras押注低时延AI推理,能效提升5倍

   日期:2026-07-24     作者:itcg    浏览:1468    我要评论    
导读:AMD携手Cerebras押注低时延AI推理,能效提升5倍

7 月 24 日消息,科技媒体 Wccftech 今天(7 月 24 日)发布博文,报道称在 Advancing AI 2026 活动中,AMD 宣布携手 Cerebras 公司,联合开发 AI 推理解决方案。

根据官方新闻稿,该方案主要针对超低延迟 AI 推理场景,将整合 AMD 的 Helios 机架级解决方案与 Cerebras 的晶圆级引擎,从而应对英伟达和 Groq 合作。

按照双方披露的路线,Helios 机架承担高性能、可扩展吞吐引擎角色,主要处理提示词与大上下文窗口。

Cerebras 的 Wafer-Scale Engine 则负责对内存带宽要求更高的 Token 生成与解码环节,强调超低时延表现,结合使用 2 个计算引擎,预估可以将每瓦每秒 token 数量提高 5 倍。附上相关截图如下:

Cerebras 介绍称,Wafer-Scale Engine 在单块互连硅片上无缝连接数十万个计算核心和数十 GB 的 SRAM,减少外部网络瓶颈对数据传输的影响。

 
反对 0举报 0 收藏 0 打赏 0评论 0
 
更多>同类资讯
0相关评论

头条阅读
推荐图文
相关资讯
网站首页  |  物流配送  |  关于我们  |  联系方式  |  使用协议  |  版权隐私  |  网站地图  |  排名推广  |  广告服务  |  积分换礼  |  RSS订阅  |  违规举报  |  京ICP备14047533号-2