美光抛出重要信号：AI算力两年翻3倍，HBM已经追不上了

近日，在Hot Chips 2026大会上，美光抛出的调研结论直接点破了行业藏了很久的核心矛盾——AI的“内存墙”非但没有被解决，反而还在愈演愈烈。

简单来说，“内存墙”是指处理器运算速度越来越快，但数据搬运速度却跟不上而产生的瓶颈。HBM作为AI时代的核心存储硬件，通过多层存储芯片垂直堆叠的方式，实现了超高的数据传输带宽，是高端AI训练、推理服务器的标配。现如今，大模型参数规模持续膨胀，Agent类AI应用不断落地，对HBM的容量、带宽均提出了前所未有的极高要求。

美光HBM设计架构研究员Raghu Sreeramaneni指出，当前AI芯片的算力性能大约每两年就提升3倍，而同期内HBM（高带宽内存）的带宽增速还不到2倍。此消彼长之下，算力和内存带宽的缺口正在快速拉大，曾经靠堆HBM就能解决的性能瓶颈，如今已变成限制AI系统往上走的核心障碍。

这一矛盾正制约着大模型在实际生产环境中的效能释放，根据Meta公开的研究数据，在Llama 3（特别是Llama 3.1 405B版本）的大规模训练过程中，约17.2%的非预期训练中断都是由HBM3内存故障导致的。

现在典型的带4个12层高HBM堆栈的GPU SIP里，内存硅片的占比已经接近90%，相当于GPU自身硅片面积的8倍，哪怕堆了这么多存储，AI工作负载大部分时候还是处于“等数据喂给处理器”的内存受限状态，GPU的峰值性能根本没能完全释放。

除了技术迭代速度的差距，HBM的产能难题也进一步放大了行业危机。由于HBM生产门槛极高，不只是普通芯片制造，还涉及复杂的堆叠封装工艺，因此对生产良率要求严苛。而新工厂从规划、建设到实现大规模量产，往往需要数年时间，短期内很难快速扩产来填补这一巨大的需求缺口。

为了打破“内存墙”，美光认为必须转向颠覆性的工艺和封装技术。这些技术包括：通过混合键合等技术减少芯片间的距离、采用更高效的散热方案，以及发展“存内计算”等新架构。

美光的警告揭示了一个残酷的现实：在AI时代，算力与存储的失衡正在成为限制技术发展的核心瓶颈。面对算力两年3倍的增长，而带宽两年不到2倍的提升，整个半导体行业正被迫进入一场从材料、封装到架构的全方位革新。HBM的供不应求已成为常态，正如美光所言，要延续AI革命，必须集结不同领域的力量共同创新。