
据业内消息人士透露,美光正在评估一种用于补充高带宽存储器(HBM)的新型存储技术,以应对不断增长的AI存储需求。随着三星电子和SK海力士近期相继公布下一代存储架构及分层技术,美光也开始探索相关方案,显示AI存储竞争的重心正逐步向“后HBM”时代转移。
据9月3日业内消息人士透露,美光正在评估一种名为“Near-GPU NAND”的技术,将高耐久性NAND闪存部署在图形处理器(GPU)附近。不同于传统NAND闪存通常被放置在距离GPU较远的存储区域,该方案将NAND置于GPU封装或印刷电路板(PCB)附近,使其成为介于HBM与普通存储设备之间的新型存储层。
据报道,美光正在考虑在不降低现有三层单元(TLC)和四层单元(QLC)NAND存储密度的情况下,通过提升耐久性以及输入/输出(I/O)速度和带宽来实现这一方案。其核心思路是在GPU周围提供数百GB的NAND存储空间,使大规模大语言模型(LLM)推理所需的数据能够以比传统存储设备更短的距离进行处理。
Near-GPU NAND的作用更接近于减少HBM需要直接处理的数据规模,而不是取代HBM。这是因为,与将所有数据都存储在速度最快的HBM中相比,根据数据的重要程度和使用频率,将数据分配至不同类型的存储器,可以在弥补HBM容量有限这一问题的同时,进一步兼顾AI系统的成本与效率。
此前,三星电子在上月举行的存储半导体活动FMS 2026上公布了“zHBM”。该技术通过将HBM直接堆叠在AI加速器上,采用缩短AI加速器(xPU)与存储器之间距离的3D结构,从而减少数据移动所需的时间和功耗。
据三星电子介绍,采用zHBM的新一代接口系统,相较HBM5最高可实现8倍性能提升,以及最高3倍的单位功耗性能提升。与此同时,三星电子还发布了面向下一代存储架构的“zNAND-O”,目标是在现有存储器与存储设备之间建立新的存储层。
SK海力士则提出了“分层存储(Tiered Memory)”战略,将存储器划分为多个层级。该方案由SK海力士与SanDisk合作推出高带宽闪存(HBF)标准,并在HBM与固态硬盘(SSD)之间增加一个大容量存储层。SK海力士与SanDisk公布的HBF标准最高支持512GB容量和3TB/s带宽。HBF的核心理念,是利用NAND闪存的大容量和非易失性特征,同时通过靠近HBM的位置实现高速数据传输,从而扩展GPU可使用的存储空间。具体而言,需要立即处理的数据可以分配给HBM,而对容量需求较高的数据则可以交由HBF存储。这样一来,无需单纯扩大HBM容量,就能够提升AI系统可处理的数据规模。SK海力士同样将HBF定义为介于HBM和SSD之间的新型存储层。
这一系列变化背后的核心原因,是随着AI技术发展,存储器需要处理的数据量正在快速增长。随着能够自主规划和执行任务的智能体AI(Agentic AI)逐渐普及,AI处理的任务正在从简单的问答,进一步扩展到实时检索历史数据和外部信息,并调用长期积累的数据完成复杂任务。
在单一存储器越来越难以同时满足速度和容量需求的情况下,将具有不同特性的存储器连接起来,正在成为新的发展方向。业内预计,未来AI存储竞争将不再局限于提升HBM的容量和带宽,而是进一步演变为如何组合不同类型存储器,以及如何确定不同存储器部署位置的竞争。
如果说HBM承担的是高速提供计算所需数据的任务,那么HBF和Near-GPU NAND则可以通过将大容量数据部署在更靠近计算单元的位置,进一步弥补HBM容量方面的限制。KAIST电气工程学院教授金正浩(Kim Jung-ho)预测:“HBM将决定AI的运行速度,而HBF将决定所需的存储容量。”他进一步表示:“在未来的AI时代,所需的存储容量将达到目前的100~1000倍。”
本文转自媒体报道或网络平台,系作者个人立场或观点。我方转载仅为分享,不代表我方赞成或认同。若来源标注错误或侵犯了您的合法权益,请及时联系客服,我们作为中立的平台服务者将及时更正、删除或依法处理。
