Arm AGI CPU加速落地 被甲骨文引入云基础设施(ARM AGI CPU) ypxx.net

IT时报记者 孙妍

近日,甲骨文公司在Oracle AI World大会上宣布,计划于2027年秋季将Arm AGI CPU引入Oracle Cloud Infrastructure(甲骨文云基础设施),支撑通用云和智能体AI日益增长的需求。这颗为智能体时代设计的服务器CPU,正进入云计算市场的快车道。

这只是Arm近期一连串动作中的一个。Arm发布面向智能体AI的CPU性能评估白皮书,获得富士通、Meta和OpenAI支持;在开放计算全球峰会(OCP Global Summit)上,Arm官宣贡献服务器参考设计,而Meta将Arm AGI CPU引入OCP机架级设计中;第三方调研机构Signal65报告称,基于实测性能数据和额定服务器功耗建立的机架级模型中,Arm AGI CPU在七项所测工作负载中的平均机架级性能达到AMD EPYC 9755的1.99倍,约为两倍。

CPU,这个在AI叙事里沉寂了多时的角色,为何突然迎来高光时刻?

编辑

思考交给GPU 动手交给CPU

过去两年,AI基础设施的故事几乎由GPU书写,衡量标准是模型规模、加速器供给和Token(词元)生成能力。这个阶段的AI更像一场考试,接收题目,然后生成答案。

据美国知名风险投资机构a16z援引OpenRouter的数据,自2026年2月至8月,智能体的Token使用量增长约14倍。

智能体把“考试”变成了“上班”。Arm云AI解决方案架构总监Ravi Malhotra在接受包括《IT时报》在内的媒体采访时表示,智能体要求生成的Token在真实世界中得到应用,包括检索数据、调用工具、运行代码、执行策略并验证结果。

GPU负责思考,CPU负责动手。从一定程度上来说,GPU更适应考试,CPU更擅长上班。但是,“在运行智能体负载时,CPU与GPU同样重要。”微软CEO萨提亚·纳德拉概括道。

编辑

2026年8月,微软和亚马逊的两场财报电话会议传递出同一个信号:基于Arm架构的定制芯片,已从技术尝试变为超大规模云基础设施的核心支柱。截至7月底,搭载第二代Arm架构云CPU Azure Cobalt 200的机架部署至全球约25个数据中心。基于Azure Cobalt的虚拟机(VM)产品组合目前已承载Adobe、OpenAI等客户的工作负载,表明其已在真实生产环境中应用。亚马逊公布,包含Graviton、Trainium和Nitro在内的芯片业务年化营收突破250亿美元,同比增长达到三位数;亚马逊云科技排名前1000的EC2客户中,98%在使用Graviton。连续第三年,其新增CPU容量超过一半采用了Graviton。谷歌云业务的Axion、NVIDIA AI工厂方案中的Vera,同样基于Arm架构。

不看单颗芯片 看整个机架

需求变了,衡量CPU的尺子也得换。旧尺子量的是每秒Token数,但“生成得快”不等于“干得成”。如果吞吐量随资源利用率上升而下降,理论算力再高,也不意味着能完成更多任务。

Arm的白皮书按软件工程、企业自动化、科学研究、个人助理和机器人五类用例刻画智能体版图,并提出新的评估方法:组件级测试单独评估CPU,端到端智能体基准验证改进能否转化为任务完成效果。

这套方法论将观察单位从单颗芯片扩展到整个机架。Malhotra解释,客户部署的是整个机架而非单颗CPU;只对比两颗芯片,无法衡量能效、服务器成本和功耗,以及一个机架能装下多少台服务器。

类比汽车,发动机排量只是参数表上的一行,真正决定用车成本的是满载油耗。数据中心受功耗、散热和空间的固定约束,运营商最终要回答:在这些限制内能持续完成多少有效工作。

基于这套方法论,第三方调研机构Signal65将Arm AGI CPU与第五代AMD EPYC(霄龙)处理器对比:七项工作负载测试中,相较AMD EPYC 9755,Arm AGI CPU的建模机架级性能平均达到1.99倍。其中,在工具调用场景中,Arm AGI CPU平均达到对比平台的1.7 倍,智能体工作流和任务编排场景达到2倍,推理与规划场景达到2.2倍。据Malhotra介绍,平均而言,Arm AGI CPU在每核以及CPU SoC层面的性能都约高出对比平台20%,相同功耗预算下可部署更多核心。

编辑

出于数据和隐私考虑,智能体任务大多要在隔离环境中执行,创建沙箱的时间相当于智能体的“通勤成本”:单次以毫秒计,乘上数百万次并发便相当可观。Signal65测试显示,相较AMD EPYC 9965,Arm AGI CPU最多可将沙箱创建时延降低45%,帮助智能体更快启动隔离执行环境,降低智能体在执行任务过程中的系统开销。

不过,Arm、AMD、Intel目前各自推出智能体CPU基准,口径并不一致。Malhotra回应称,Arm提出的是一套评测方法论,而非正式行业标准,建议用户根据自身用例选择相应基准。Signal65报告也注明,测试基于特定时间点的系统与规格,结果可能因配置而异。

落地朋友圈,不断壮大

Arm已成为OCI计算产品的重要组成部分。来自Ampere的Arm架构产品支持广泛的工作负载,包括企业应用、容器、Web服务和数据处理。而基于Arm架构的NVIDIA Vera CPU也已在OCI上正式商用。同时,Meta的Yosemite YV5机架级设计已引入Arm AGI CPU,超微、联想、华擎等也已展示或提供多种服务器平台和机架级方案。

如今,Oracle的加入,让Arm的CPU有了新的应用落点。

芯片一年一代,而数据中心从规划到运营往往需要两年以上。不变的是,客户往往想用最新芯片。Malhotra表示,数据中心一旦完成规划,供电、散热和空间的限制就已确定,新一代芯片不能只提升峰值性能,还要帮运营商在现有条件下承载更多负载。随着电力日益成为制约AI增长的关键因素,在相同基础设施条件下提供更多算力的重要性,将不亚于芯片创新本身的速度。

算力的边界,重新回到电力

国际能源署(IEA)数据显示,面向AI的数据中心用电量在2025年增长了50%。Dell'Oro Group统计,2026年第一季度,亚马逊、谷歌、Meta和微软的数据中心资本支出同比增长78%。相比一年前,CPU能效已不再是技术参数中的次要指标,如今每一瓦电力、每一个机架都变得更加重要。

IDC预计,2026年全球AI基础设施支出将达4970亿美元,且需求不再局限于GPU系统,还包括编排平台和基于CPU的推理集群等。

微软首席财务官艾米·胡德表示,CPU和GPU基础设施运营效率的持续提升,以及基础设施扩容和启用速度的加快,释放了更多可用算力资源,而这些新增算力几乎在上线后便被市场需求迅速消化并转化为收入。对于超大规模数据中心而言,CPU效率提升的意义远不止降低电费支出。当市场需求超过供给时,更高效的基础设施能够在相同机架规模和相同电力预算下释放更多可用算力,而这些算力最终会转化为营收。

智能体时代,CPU与GPU的分工正在重新划分,CPU重新成为AI数据中心的通用计算底座。至于新的评估标准会否从“Arm的方法论”变成“行业的方法论”,眼下尚无答案。但怎么衡量一颗CPU,已经成为行业建设算力中心前,必须思考的问题。