
2026年11月公开的信息显示,Marvell与Penguin Solutions宣布达成战略合作,方向直指AI数据中心的内存瓶颈。合作把两项技术放在同一框架下:基于CXL的内存扩展,让服务器利用现有DDR4内存扩大容量;以及先进光子互连,让内存资源跨多个机柜实现高带宽、低时延共享。两项技术单独看都不新,但组合起来指向一个更关键的产业命题——AI基础设施的竞争,正从单机算力堆叠转向系统级内存资源调度。
一、AI服务器的主矛盾,重新回到“内存墙”大模型训练和推理对内存的需求,已经不再只是“容量够不够”的问题,而是容量、带宽、时延和成本 simultaneously 约束的系统问题。HBM为算力芯片提供了高带宽,但容量有限、价格高、供应集中;DDR内存容量更大、成本更低,却受限于单机主板插槽和CPU内存通道。模型参数、KV Cache、特征数据和多任务并发叠加后,单台服务器很容易出现“算力等内存”的资源错配。
更关键的是,AI集群中不同节点的内存利用率并不均衡。有的节点内存吃紧,有的节点内存闲置,但受制于物理边界,资源难以跨机柜流动。CXL的价值在于把内存访问从“主板内资源”扩展为“可互连、可池化、可编排”的资源;光互连的价值则在于把这种资源调度的半径从机架内推到机柜间。二者结合,实质上是在AI服务器与集群之间增加一层“内存中间层”。
二、CXL盘活DDR4:一条现实主义的容量扩展路径此次合作中,基于CXL的内存扩展被明确指向利用现有DDR4内存提升服务器内存容量。这一选择带有明显的工程现实性:DDR4产业链成熟、存量规模大、单位容量成本低,适合承担容量型、缓存型和数据预处理型负载。对于已经拥有大量DDR4库存或存量服务器的数据中心而言,CXL内存扩展可以在不彻底更换平台的前提下,延长内存资源生命周期,提升机架内内存密度。
但需要客观看待其边界。CXL内存扩展并不是替代HBM,也不是把所有DDR4变成高性能主存。CXL访问时延高于本地DRAM,带宽也受PCIe/CXL链路和交换架构约束。它更适合KV Cache卸载、温数据缓存、内存数据库扩容、推荐系统特征存储等对容量敏感、对时延有一定容忍度的场景。若采用CXL交换架构,还可进一步提升内存池化和多主机共享能力,但协议开销、缓存一致性、QoS和安全隔离都会成为系统设计重点。
Marvell在数据中心互连、光DSP和定制芯片侧有长期积累,Penguin Solutions则更靠近AI/HPC系统方案与部署侧。这种“互连芯片能力+系统集成能力”的组合,说明CXL内存扩展正在从板卡级产品走向集群级方案。真正决定落地效果的,不只是控制器和内存模组,还包括操作系统、虚拟化层、内存管理软件和集群调度器能否把远端内存纳入统一视图。
三、光子互连:把内存池从机内推向机柜间跨机柜内存共享是此次合作更具想象力的部分。传统铜缆在带宽密度、传输距离和能耗上存在明显物理限制,机柜之间大规模传输内存语义流量,铜互连会迅速遇到距离和功耗瓶颈。光子技术通过光引擎、硅光或光模块实现高带宽、较低损耗的长距离传输,为多个机柜共享内存池提供了物理层可能。
其产业意义在于,内存池可以独立于计算节点部署。计算节点按算力需求扩展,内存池按容量和带宽需求扩展,二者通过光互连解耦。对于AI集群而言,这意味着更高的内存利用率、更灵活的租户分配和更强的异构计算适配能力。当某个训练任务需要更大内存空间时,调度系统可以从共享池中分配资源,而不必要求每台服务器都配置峰值内存。
代价同样存在。光互连增加光电转换环节,带来额外时延和成本;CXL协议本身也有开销。跨机柜内存访问适合容量扩展和带宽补充,不适合对时延极度敏感的本地计算。系统需要用分层内存策略、预取机制、数据放置策略和QoS控制,把“远端内存”控制在合理比例。否则,内存池化可能把局部瓶颈转化为全局瓶颈。
四、带宽、时延、功耗与可扩展性的再平衡从带宽看,CXL加光互连构建的是一套分层内存体系:HBM承担高带宽主存,本地DDR承担常规内存,CXL远端内存承担容量扩展。光互连提升了跨机柜带宽上限,但实际吞吐仍取决于CXL交换、协议效率和内存介质。它不会让远端DDR4获得HBM级带宽,却可以在集群层面减少因内存不足导致的算力闲置。
从时延看,本地DRAM访问在纳秒级,CXL远端访问进入百纳秒级,跨机柜光互连还会增加传输和转换开销。因此,方案的价值不在“替代本地内存”,而在“扩大可用内存边界”。对推理服务中的KV Cache、批处理数据、冷热分层数据,这种时延差异可以通过软件调度吸收。
从功耗看,DDR4的单位容量成本与功耗相对可控,光互连在长距离、高带宽场景下比铜缆更具能效潜力,但光电转换和交换芯片也会带来新增功耗。系统级收益需要从“减少服务器配置冗余、提高内存利用率、降低算力等待”中综合计算,而不能只看单个器件功耗。
从可扩展性看,内存池化把“每台服务器配多少内存”变成“集群需要多少内存容量与带宽”。这提升了资源弹性,也带来运维复杂度:内存故障隔离、租户安全、性能可预期性和计费模型都需要重新设计。CXL与光互连能否从示范方案走向规模化部署,软件生态的重要性不亚于硬件本身。
五、产业格局:从单机性能竞赛转向系统方案竞赛Marvell与Penguin的合作释放出一个清晰信号:AI基础设施的创新重心,正在从单颗芯片性能转向芯片、互连、内存和系统集成的协同。CXL生态涉及CPU、内存模组、交换芯片、Retimer、控制器和软件栈;光互连生态涉及光模块、硅光引擎、交换设备和封装工艺。谁能把这些环节做成可部署、可运维的系统方案,谁就更接近下一阶段的产业机会。
对服务器厂商而言,内存池化可能改变产品定义:服务器不再只是CPU、GPU和本地内存的组合,而是成为集群内存资源的一个计算入口。对云服务商而言,内存池化有助于提升资源利用率、降低碎片化,但也要求调度系统和安全隔离能力同步升级。对芯片厂商而言,CXL控制器、光互连DSP和定制互连芯片将成为新的增量市场。
六、中国产业链的机会与待解课题国内AI算力建设同样面临内存墙。随着大模型训练推理规模扩大,云服务商和服务器厂商在资源解耦、内存池化和高速互连方向已有探索。中国在光模块、光器件和部分互连芯片环节具备较强产业基础,服务器整机制造和云平台运营经验也较充分,这为CXL与光互连的系统集成提供了落地条件。
但待解课题同样明显。CXL的软件生态、交换芯片和控制器成熟度仍需时间;国产CPU平台对CXL内存扩展的支持节奏,决定方案能否规模复制;DDR4存量虽大,但面向更高带宽场景仍需向DDR5演进;光互连的成本和封装良率,也影响跨机柜内存池的经济性。对中国产业而言,机会不只在单点芯片,更在内存池化系统方案、光互连部件、集群调度软件等环节的协同突破。
Marvell与Penguin此次合作未必会立刻改变AI服务器市场格局,但它提供了一个值得关注的中间路径:不依赖单一昂贵介质,而是用CXL盘活存量内存,用光子互连扩展资源边界。AI基础设施的下一轮竞争,可能不再只是比拼单机峰值算力,而是比拼谁能把内存、带宽、时延和功耗更高效地组织成可调度、可扩展的系统能力。














