据彭博社24日报道,Meta宣布和亚马逊达成了一项持续数年、价值达数十亿美元的合作,Meta将大规模租用亚马逊AWS的Graviton5 CPU,以支持其AI智能体业务。

报道称,Meta将使用到“数千万个核心”的Graviton CPU,租用的Graviton CPU大部分都将部署在美国,Meta也将正式成为AWS Graviton全球最大的客户之一。
从2018年开始,亚马逊就一直在开发内部使用的CPU,目前这是第5代。Graviton5 CPU由台积电生产,采用基于ARM架构的3nm制程,每颗Graviton5 CPU拥有192颗核心,每个核心都可以分配到不同的任务,这能极大地提升Meta的AI算力。

Nafea Bshara
AWS内部芯片部门Annapurna Labs的联合创始人Nafea Bshara表示,在AWS EC2平台上,Graviton5 CPU是同等计算选项中最有性价比的,而且能耗还比同类产品低约60%,Meta看中的正是这些优势。而且Bshara还说,亚马逊会把节省下来的成本回馈给客户。
对于这个消息,行业分析师表示这只是Meta在今年与芯片公司达成的多项协议的一部分,为了快速提高其AI算力,Meta还要和英伟达、AMD、ARM等公司签协议,从多个渠道来获得芯片,以满足自身要求。

在过去,AI算力几乎全部依赖GPU,这正是英伟达快速崛起的原因。但随着近年AI智能体的出现,局面正在发生变化,CPU重新回到重要的位置。因为随着架构变得不断复杂,单靠一颗GPU已经无法支撑起要求越来越高的AI体系,CPU可以和GPU协同工作,支撑AI智能体完成多样化任务。所以对于最顶尖的前沿AI实验室来说,它们对CPU的需求几乎没有上限。
另外,CPU还可以在大模型语言的“后训练”阶段发挥关键作用。在预训练完成后,CPU会在模型精细调优过程中负责计算工作。所以英特尔CEO本周四才说:“CPU正重新成为AI时代不可或缺的基础。”
Meta与亚马逊AWS“一拍即合”,大规模租用其CPU用于AI智能体
拖把














沪公网安备 31010702005758号
发表评论注册|登录