MWC2024丨Arm更新Neoverse产品路线图,构建基于Arm平台的人工智能基础设施

MWC2024丨Arm更新Neoverse产品路线图,构建基于Arm平台的人工智能基础设施

虫子 / 2024-03-07 15:2327481

作为年度通信行业的一场盛会,MWC通常都会成为运营商和通信设备厂商展示最新技术和产品的舞台。在今年的MWC大会上,行业领先的半导体设计及软件平台公司 Arm也带来了一系列创新技术和解决方案,其中包括近期发布的第三代 Arm Neoverse IP 以及两款全新的 Neoverse 计算子系统 (CSS) 产品,即 Arm Neoverse CSS N3 Neoverse CSS V3。此外,Arm 全面设计 (Arm Total Design) 生态项目也取得了新的进展,已有 20 余家合作伙伴加入了这一项目。

01.jpg

Arm 构建了全球应用最为普及的 CPU 架构,在多个领域的技术革新中发挥主导作用,影响了世界各地人们的日常生活。而在当下,随着数据需求的不断增长,以及对能耗的限制,全球数据中心以及网络基础设施都面临着巨大的压力。此外,还有日益增长的连网设备,所有这些都驱动着产业选择推出高效的专用处理产品,以便进行创新。正是基于这样的前提,Arm于去年推出了Arm Neoverse CSS,并在这次大会现场做了展示。据悉,利用这一技术,能够促使Arm生态系统通过更低的成本、更少的风险、更短的时间,打造出专用芯片,从而驱动定制芯片的变革。

当下,全球各行业都在拥抱AI,AI技术正在被运用到教育、制造、医疗、交通等各个方面。作为全球应用最为普及的架构,Arm是运行AI的基石。而Arm Neoverse CSS正是顺应这一趋势的、具有革新意义的产品。Neoverse CSS汇集了构成系统级芯片核心的关键技术,而借助Neoverse CSS,Arm能够为寻求差异化优先、SoC优化和加快上市进程的合作伙伴打造健全的起点。

图片1.png

据介绍,Neoverse CSS目前已广受头部云服务提供商、初创公司等业内各类企业青睐,并采用于云计算、网络、数据中心基础设施,以及 AI 等多样化的应用中。

图片2.png

现场,Arm也展示了Neoverse计算平台产品路线图,并介绍了两款全新的Neoverse CSS产品,即 Neoverse CSS N3 和 Neoverse CSS V3,它们均基于全新的第三代Neoverse IP构建,是更为出色的新一代Neoverse技术。通过全新的平台和计算子系统,Arm扩展了N系列产品路线图,使每瓦性能更上一层楼。同时,Arm也针对性能优异的V系列平台推出新一代产品,并首次将计算子系统引入该产品线。凭借新的CSS N3和CSS V3,Arm专注于释放芯粒等新技术的潜力,并更大限度地优化实际工作负载的TCO,这对于整个生态系统至关重要,其中包括AI、数据库、网络等。

图片3.png

此外,Arm还谈到了Arm全面设计 (Arm Total Design)生态项目,该项目致力于流畅交付基于Neoverse CSS 的定制系统级芯片。Arm全面设计汇集了专用集成电路设计公司、IP 供应商、EDA工具提供商、代工厂和固件开发者等行业领先企业,从而加快并简化基于Neoverse CSS的系统开发,为各方实现创新和加速上市时间,并降低打造定制芯片的成本和难度。

02.jpg

在Arm展台上,一系列基于 Arm Neoverse 的 5G 平台演示凸显了 Neoverse 的可扩展效率、每瓦性能和总体拥有成本 (TCO) 收益。在 AI 时代,随着数据和连接性的增长,这些优势将尤为重要。合作伙伴的成果方面,我们还看到了由NVIDIA Grace CPU超级芯片提供支持的Supermicro GPU服务器,该服务器被用于人工智能数据中心,能够被应用于高性能计算、深度学习训练等场景。

除了基础设施领域,Arm还展示了终端、汽车等领域的创新技术。比如,通过搭载 Arm 2023 全面计算解决方案 (TCS23) 的智能手机,Arm 在该手机的 Arm Cortex CPU 上借由  LLaMa2-7B 参数演示 AI 推理;Arm 的 Steel Arms 演示则展现了基于 Arm 平台的移动游戏体验的强劲实力。而在Windows on Arm (WoA) 生态方面, Arm 展示了联想 ThinkPad x13s 等 WoA 笔记本电脑的性能表现,以及针对 WoA 所推出的广泛的原生构建的应用。不仅于此,面向嵌入式边缘的可扩展开放架构SOAFEE (Scalable Open Architecture for Embedded Edge) 则是其在汽车领域的一大亮点。

06.jpg

Arm高级副总裁兼基础设施事业部总经理Mohamed Awad

在展会现场,热点科技也对Arm高级副总裁兼基础设施事业部总经理Mohamed Awad进行了采访,就相关问题进行了沟通。

从运营商的角度来看,在CAPEX中占据最大比重的是RAN。在本次展会上,关于vRAN或者Open RAN的讨论非常多。那在Arm看来,专用和通用硬件,哪个才是RAN的发展方向?

对此,Mohamed Awad表示:无线接入网络 (RAN) 确实至关重要。在MWC 2024期间,AI-RAN 联盟 (AI-RAN Alliance) 宣布成立。这也反映出,从更广泛的角度来看,Open RAN真正要解决的是如何更好地利用基础设施,从而获得更高的价值,以及如何创建更灵活的环境。AI-RAN就是一个很好的例子,因为从中能够通过多种不同的方法来实现以上提到的目标。具体来说,一是与企业合作,出租闲置容量。通过多租户的模式,允许多个应用在设备上运行。此外,通过将算力迁移到离用户更近的地方,可将计算的时间从数百毫秒缩短至几十毫秒,进而节省容量以运行新的应用。最后还有一个视角看待RAN就是专用计算,专用计算可被用于优化频谱效率和带宽分配等方面。因此,无论计算发生在RAN还是在核心数据中心,行业对专用计算的强烈需求将持续存在。而鉴于行业对高效率的需求,Arm认为专用计算也将发生在RAN中。而 Arm有足够的能力支持这一点,不仅可以实现专用化,而且还能支持广泛的软件生态系统,从而助力合作伙伴实现各种新的用例。

鉴于目前x86架构是行业的事实标准,从Arm架构来说如何去切入Open RAN市场?

针对这一问题,Mohamed Awad回答道:目前,Open RAN处于起步阶段,还没有真正实现大规模部署,也因此,当前的市场仍然非常开放。正如其他技术的发展一样,Arm相信Open RAN会先经历部署阶段,然后再进入到优化阶段。对于Arm来说,关键在于持续不断地为行业提供兼具最佳性能和最佳效率的解决方案,在行业发展需要时,便唾手可得。

去年Arm在中国成立了5G解决方案实验室,该实验室已获得国内生态系统合作伙伴的踊跃加入,Mohamed Awad也分享了实验室的目前情况:去年,Arm与联想在中国合作成立了Arm 5G解决方案实验室,该实验室目前进展顺利。合作伙伴汇聚在一起评估新技术,并开始探索各种技术的可能性。5G解决方案实验室的定位更多是平台的角色,用以汇聚各方生态合作伙伴的力量,共同促进创新。在这个过程中,Arm也将尽全力为他们的产品发展提供支持。

在提到当下火热的AI时,就模型训练方面,Arm所能提供的帮助,Mohamed Awad表示:Arm在模型的推理和训练两方面都可提供支持,具体取决于不同用例。就模型训练而言,以NVIDIA 的Grace Hopper为例,这一平台便是使用了Arm技术来支持其模型训练,对于亚马逊云科技 (AWS) 的Graviton和Trainium而言,也是同样如此。Arm正充分发挥自身作用,帮助这些平台实现其目标。与此同时,在推理方面Arm也表现活跃,目前大多数的模型推理可能都发生在基于Arm架构的CPU上。


发表评论