突破“内存墙”，HBM4E助力构建“以数据为中心”的AI基础设施

作者：Rambus产品管理总监Nidish Kamath

人工智能产业正在经历一场前所未有的高速变革。从参数规模突破万亿级的大语言模型（LLM），到持续普及的代理式AI，新一轮技术发展给现有AI基础设施带来了严峻挑战。虽然服务器峰值算力（FLOPS）实现爆发式增长，内存带宽的步伐却相对滞后，这一差距不断扩大，使得“内存墙”问题愈发突出。如今，AI基础设施的瓶颈已不再局限于单纯的算力，内存与处理器之间的数据移动效率同样至关重要。

在中国，随着AI产业快速发展，这一全球性挑战也日益凸显。根据中国信息通信研究院发布的《2025年人工智能产业发展研究报告》，2025年中国AI核心产业规模预计突破1.2万亿元。此外，2025年9月，国务院印发《关于深入实施“人工智能+”行动的意见》，提出到2030年，新一代智能终端、AI智能体等应用普及率达90%以上。

随着相关目标逐步推进，未来数以百万计的用户与终端设备将同时调用AI应用，数据中心不仅要满足LLM训练的带宽需求，还会面临AI推理阶段日益严峻的带宽瓶颈。近期，以OpenClaw、Hermes为代表的AI智能体迅速兴起并广泛普及，也印证了业界对AI推理阶段带宽瓶颈的担忧并非空穴来风。

与传统大语言模型（LLM）工作负载不同，AI智能体需要多步连续推理、频繁上下文切换、实时工具调用，会产生高并发、碎片化的内存读写请求。只有解决内存吞吐量瓶颈这一技术挑战，才能更好地释放下一代AI应用潜力，支撑“人工智能+”时代的海量数据需求。

为满足如此高强度的数据需求，业界正在推动硬件架构的重大变革。高带宽内存（HBM）已成为应对这一需求的关键方案。借助2.5D、3D封装技术和硅中介层，HBM能够支持超宽电气接口，在紧凑的空间内以更低功耗提供更高带宽。随着AI超级周期持续推进，业界正加快向HBM4及其增强版本HBM4E演进。

这一代际升级带来了跨越式的性能提升。JEDEC HBM4标准设定的单引脚速率最高达8 Gbps，与HBM3E大致相当，但其通过将接口宽度扩展至2048位，实现了总带宽翻倍。HBM4E则在此基础上进一步提升性能。Rambus HBM4E控制器IP可支持单引脚16 Gbps的高速数据传输，单颗内存器件带宽达到前所未有的4.096TB/s；在典型的八器件AI xPU配置中，聚合内存带宽可达32.7TB/s以上。

除极致的速度外，HBM4在功耗、内存访问、RAS（可靠性、可用性、可维护性）方面均完成优化升级，HBM4E沿用了这些能力。架构层面，HBM4将每个堆栈的独立通道数量翻倍至32个，每个通道含2个伪通道，使设计人员能够更灵活地访问堆栈内的DRAM器件。同时，HBM4还能提供更灵活的低电压供电方案，支持0.7V至0.9V的VDDQ电压以及1.0V或1.05V的VDDC电压，显著优化系统整体能效。

与此同时，该接口标准还向后兼容现有的HBM3/HBM3E控制器，助力平稳过渡。新引入的定向刷新管理（DRFM）机制，则进一步提升可靠性、可用性与可维护性（RAS），并增强了针对行锤攻击的防护能力。

然而，这些技术的进步并非一帆风顺。尽管带宽收益显而易见，但实现此类内存子系统却面临着复杂的工程挑战。HBM4和HBM4E采用了前所未有的2048位超宽接口，2.5D和3D封装的物理限制也对其设计与实现提出了极为严苛的要求。具体而言，设计人员既要应对更高传输速率下复杂的数据并行处理问题，也要解决热管理难题——性能要求越高，HBM内存控制器就越需要对堆叠中的存储裸片进行有效的轮转调度，以避免出现局部热点。

面对内存子系统呈指数级增长的复杂度，传统自研开发模式越来越难跟上AI领域激烈的竞争节奏。采用经过验证并充分优化的内存接口IP，正成为适配AI产品高速迭代的战略选择。要突破AI“内存墙”难题，行业需要的不仅是更快的内存标准，更需要经过芯片量产验证且成熟可靠解决方案。通过与经验丰富的IP供应商合作，芯片厂商和设计人员可降低研发风险、缩短上市周期，充分释放下一代大语言模型的巨大潜能。