HBM已经摸到天花板？cHBM新解法来了(HBM TSV 技术)

内存不再被动配套，cHBM 要和计算芯片共生。

随着高性能计算（HPC）与人工智能（AI）任务的规模和复杂度持续提升，行业正来到关键转折点：系统架构需要具备更高的速度、带宽与能效，才能跟上数据处理和数据搬运需求的增长。这一挑战，也就是业内常说的“存储墙”，意味着行业需要更紧密、更先进的逻辑与存储一体化方案，才能释放下一代计算系统的全部潜力。

三星晶圆代工正推动这场技术变革，推出先进逻辑-存储集成方案，将高带宽内存与自身先进制程工艺相结合，赋予客户更高的架构灵活性，助力充分释放下一代AI与高性能计算负载的性能潜力。

图1：计算带宽与DRAM带宽增长对比。

随着计算任务规模扩大、复杂度提升，系统需要在四大核心维度持续迭代：带宽、容量、延迟、功耗。这四项指标对于突破数据搬运瓶颈、保障加速器持续输出峰值性能至关重要。带宽方面，数据密集型应用需要大幅提升吞吐能力，跟上模型扩容与实时处理的需求。容量方面，即便存储密度不断提升，持续增大的模型与数据集，仍对系统级存储容量提出更高要求。延迟方面，实时、高性能应用，必须最小化计算-存储通路的延迟，维持高效处理流水线。功耗方面，AI任务能耗巨大，系统级能效是实现持续、可扩展算力的基础。

尽管存储技术仍在迭代，但AI与HPC系统复杂度快速上升，且这类负载以数据为核心，其需求早已超出传统架构的能力边界。这一现状，进一步催生对底层逻辑-存储协同设计的迫切需求。

行业正在探索多种新技术方案，满足下一代AI与高性能计算负载需求，高带宽内存（HBM）凭借卓越的带宽、能效与容量，已成为核心基石技术。目前主流AI训练与推理加速器均已广泛采用HBM；而下一阶段创新的方向，是进一步深化逻辑与存储的集成。为实现性能再突破，在标准HBM基础上，融合晶圆代工逻辑基底裸片的方案正成为极具竞争力的路线，可为下一代系统带来更强架构灵活性、更高算力与更优能效。

定制化HBM（cHBM）继承传统HBM优势，依托堆叠架构与硅通孔（TSV）技术，实现带宽显著提升、延迟下降，这正是AI与HPC高性能数据处理所必需的能力。cHBM不再采用传统存储工艺制造基底裸片，改用晶圆代工先进逻辑制程，可直接在存储堆叠下方集成定制逻辑电路。该方案为性能优化、能效提升与架构创新打开全新空间。三星晶圆代工正在推进这项技术，随着逻辑存储集成在现代计算中愈发关键，帮助客户实现更高系统效率与架构灵活性。

cHBM做了多项架构优化，改善数据传输效率、系统能效与可扩展性。通过融合先进逻辑制程、高性能内存与下一代封装技术，cHBM可为AI、HPC场景打造更灵活、性能更强的解决方案。HBM控制器集成：将HBM控制器集成至基底裸片，简化数据通路，降低功耗与延迟，同时简化系统设计。高性能芯粒到芯粒（D2D）接口：D2D接口连接片上系统SoC与HBM芯粒，实现更快数据传输、更高带宽，缩减互连占用的边缘面积，提升系统集成效率。定制逻辑集成：可在逻辑基底裸片增加加速器、内存控制器等额外逻辑单元，芯片架构师可针对下一代AI与HPC负载定制性能。基底裸片采用先进逻辑制程：基底裸片选用先进逻辑节点而非传统存储工艺，获得更高性能、更低功耗与更小延迟。先进封装技术：前沿封装平台支持客户在垂直方向（堆叠层数）与水平方向（多芯粒集群）扩展存储带宽，搭建高度模块化、高带宽的系统架构。

图2：标准HBM框图与晶圆代工逻辑SoC基底裸片架构对比。

将先进代工逻辑与高带宽内存结合，能够在系统性能、能效与整体设计灵活性方面带来显著增益。该方案重新定义HBM基底裸片的作用，拉近计算单元与内存的交互，在增强技术能力的同时，为下一代AI与HPC平台提供更强可扩展性与长期优化潜力。

核心优势包括更高带宽与容量：晶圆代工逻辑基底裸片优化互连边缘布局，搭配高速D2D接口，相比传统基于HBM物理层（PHY）的方案，可以提升带宽，支持更多HBM堆叠。更低延迟：内存控制器集成在基底裸片，整套HBM子系统集中在单颗裸片内，减少外部布线，缩短计算与内存之间的传输延迟。更优能效：基底裸片从老旧存储工艺切换至先进逻辑制程，充分利用新一代工艺原生的功耗优势。创新与灵活度：定制化基底裸片设计，可集成加速器、内存控制器、CPU等附加逻辑，针对特定应用打造创新方案。

随着AI模型向万亿参数规模演进，行业面临一大核心难题：存储墙正在成为高性能计算与AI实际性能的根本性约束。基于芯粒的架构已经开始重塑算力边界；而在HBM上集成晶圆代工逻辑基底裸片，是计算-存储协同设计领域的又一重大进展。这套方案融合先进逻辑工艺、嵌入式D2D接口、片上集成HBM控制器，以及基底裸片可定制逻辑，能够在带宽、容量、性能、能效上实现大幅提升。

*声明：本文系原作者创作。文章内容系其个人观点，我方转载仅为分享与讨论，不代表我方赞成或认同，如有异议，请联系后台。