英伟达发布NVHBM定制内存：带宽跃升30%，功耗直降15%

大模型进入万亿参数时代，AI算力的瓶颈早已不只是计算核心，内存带宽、芯片功耗、硅片面积正在成为制约AI性能提升的关键枷锁。面对Agent智能体、物理AI等新兴业务的海量数据吞吐需求，英伟达最近正式发布了定制高带宽内存方案NVHBM，在带宽、功耗、芯片面积三大维度对传统HBM4E实现了全面升级。

根据官方披露的数据，对比标准HBM4E，NVHBM可实现内存带宽提升30%以上，整体功耗下降15%，还能释放主芯片最多25%的裸片面积留给计算单元，给下一代AI硬件打开了全新的性能想象空间。

很多人可能会好奇，同样是HBM高带宽内存，NVHBM究竟做了什么改动，能拿到这么亮眼的指标？其实，它最核心的创新，就是把内存控制器从GPU/XPU主芯片迁移到了HBM堆叠的基础裸片中。

在传统设计里，HBM的内存控制器、PHY物理接口电路，都占用着主芯片宝贵的先进工艺硅片。这些电路本身不参与AI运算，却挤占了本可以放置更多计算核心的空间。NVHBM将整套定制控制器下沉到HBM堆栈内部，直接带来了多重连锁收益。

首先就是带宽跃升。控制器离存储颗粒更近，数据传输链路缩短，内存带宽直接上涨超30%。对于大模型推理、训练任务，更高带宽意味着KV缓存读写更快，模型输出Token的速度进一步提升，万亿参数大模型运行更加流畅。

其次是功耗优化。内存相关电路转移之后，HBM整体功耗降低15%。单颗芯片的功耗差距看着有限，但当数据中心部署成千上万颗AI芯片时，累积的能耗节约十分可观。省下来的功耗，既可以用来拉高芯片算力，也可以在供电上限不变的前提下，部署更多AI加速器，提升集群整体吞吐量。

第三是面积释放。主芯片“腾出”最多5%的裸片面积，PHY与配套电路面积缩减最高67%，封装中介层布线难度大幅降低，整个芯片布局可用硅面积提升80%。芯片厂商可以把这部分面积全部投入张量核心、计算单元，不用再为内存控制电路妥协，实现了算力进一步扩容。

值得注意的是，NVHBM并不是一款面向消费级市场的通用内存，而是属于NVLink Fusion生态的定制化基础组件。英伟达会输出标准化NVHBM规范，由三星、SK海力士、美光多家存储厂商共同供货，降低云厂商设计定制AI芯片的研发、验证成本，帮助合作伙伴更快把自研AI硬件推向市场。

亚马逊旗下Annapurna Labs是NVHBM首个公开合作方，下一代AWS Trainium4芯片就会搭载这套技术。借助NVLink Fusion架构，可以实现亚马逊自研芯片与英伟达GPU在同一机架架构下协同工作，服务AWS云基础设施的AI业务。

从产品迭代路线来看，NVHBM技术会率先落地英伟达未来的GPU产品线，预计2028年登场的Feynman系列GPU将成为首批搭载NVHBM的英伟达显卡，接替Blackwell、Rubin，扛起下一代AI算力大旗。

放眼整个行业，将内存控制逻辑下沉到HBM基片，已成为存储行业的重要趋势。高通HBC方案、三大存储厂商的下一代HBM规划，都出现了相似的技术思路。可以预见，算力与存储的协同设计，正在取代单纯堆频率、堆堆叠层数的旧路线，

未来AI性能突破，需要GPU、内存、互联架构深度协同定制。