
随着HBM成本接近GPU+HBM CoWoS封装总成本的一半,存储器还能仅仅被看作AI计算里的被动器件吗?答案要回到 “存储墙”,这个难题影响了近半个世纪的半导体发展。
自冯・诺依曼架构诞生以来,计算系统基本围绕两大核心部件:处理器与存储器。计算和数据存储相互分离,是这套架构的核心特征,不过生物大脑并不是这样工作。
人脑里面,存储、计算与信号传输在神经元和突触中同步完成。量子计算机同样脱离传统模型,量子比特既是量子态载体,也是计算单元。
在半导体行业发展的很长一段时间里,存储器也曾是技术进步的主要驱动力。存储芯片拥有高度重复的单元结构,密集的阵列通常占据芯片大部分面积。这种规整结构,叠加巨大的容量需求,倒逼厂商持续提升存储密度与良率。
行业发展前四十年,存储技术带动了大量制造工艺突破。以中国台湾地区为例,存储厂商打造出当地第一座8英寸晶圆厂、第一条DUV量产线,以及第一座12英寸晶圆厂。
存储墙改变产业天平
2000年代中期,DRAM遇到物理缩放极限,这一局面开始发生变化。
DRAM依靠电容储存电荷。存储单元不断缩小的同时,电容尺寸同步缩减,很难维持足够电荷量,工艺微缩难度持续加大。
于是DRAM工艺迭代速度开始落后于逻辑芯片。进入20nm节点之后,DRAM一路迭代1x、1y、1z、1a、1b、1c、1d世代,但大体仍停留在10nm级别。而逻辑芯片则从22nm一路走到14nm、10nm、7nm以及更先进节点。
处理器与存储器之间持续拉大的性能差距,催生了 “存储墙” 现象:处理器运算速度很快,但存储系统无法高效供给数据。如今这也是AI芯片设计最核心的难题之一。
数字AI,无论是训练、推理还是智能体AI,仍然高度依赖先进逻辑芯片。但物理AI的兴起,或将让产业重心重新向存储器倾斜,尤其是边缘设备与自动驾驶系统,需要在严格功耗约束下完成推理。
存内处理(PIM)是一条可行路线:把计算单元放到靠近数据存储的位置,降低数据传输延迟与功耗。计算单元可以集成在内存模组、先进封装内部,甚至直接做在存储裸片上。
SK海力士的LPDDR5-AiM(内存加速器)就是这类方案。它在LPDDR5存储阵列周边增加计算能力,完成矩阵向量乘法。AI推理时模型权重一般存放在DRAM中,并且会被反复读取;计算靠近权重,就能减少数据搬运。
但取舍也随之而来:基于存储工艺制造的处理器,性能无法对标专为计算优化的逻辑芯片。不过很多推理场景下,功耗效率提升、减少数据搬运带来的收益,足以弥补性能短板。
存内计算更进一步
存内计算(CIM)则把思路推得更远:让存储单元本身,或是和存储单元紧密绑定的电路直接参与运算。
二者的区别很关键:PIM只是把处理器放在存储器附近,存储单元主要负责存储;CIM尝试直接利用存储阵列完成矩阵向量乘法这类AI核心运算。
主流技术路线包含SRAM、DRAM、阻变存储器(ReRAM)、磁阻存储器(MRAM),各有优劣。
基于SRAM的CIM已经落地边缘推理场景,例如图像语音识别、物联网传感、工业异常检测、小型神经网络。SRAM速度快、耐用,适配成熟工艺,但单元尺寸偏大,很难扩展到GPU级别的大规模计算。
DRAM存储密度更高,未来3D架构还有进一步提升空间。但DRAM依靠电容的存储单元无法直接完成通用计算,DRAM基CIM一般需要位线、灵敏放大器等外围电路。模拟运算还需要额外电路与数据转换模块。
ReRAM思路完全不同。它的可变电阻可以表征多级电导,而不只是0/1二元状态,AI权重能够直接以模拟形式保存。ReRAM交叉阵列天然就可以执行矩阵向量运算。
ReRAM属于非易失性存储器,权重数据可以长期保存,不用反复从外部存储调入,架构更接近非冯・诺依曼计算。
MRAM同样是非易失性存储,但依靠磁态保存信息。它是二元存储,做模拟计算会遇到和DRAM类似的难题。新一代方案中,自旋轨道扭矩MRAM(SOT MRAM)受到关注,擦写耐久度逐步接近高强度计算场景要求。
ReRAM、相变存储器(PCRAM)等其他非易失存储技术各有优势,但反复写入会改变存储材料物理特性,耐久度仍是短板。
新架构或将重塑芯片竞争格局
PIM的基本构想几乎和集成电路同时诞生,现代形态的CIM则在2010年后快速发展。AI浪潮,让这两条技术路线拥有了全新战略价值。
过去十年半导体竞争,先进逻辑工艺厂商占据绝对优势。高性能处理器带来丰厚利润,竞争对手不惜重金追赶,尽管成本越来越高、回报不确定性加大。
但如果行业脱离传统冯・诺依曼计算架构,竞争格局就会改变。
一旦存储器从被动存储部件,转变为计算环节的组成部分,半导体竞争重心将更多转向存储架构、材料、封装和系统级集成,不再只由逻辑工艺领先程度决定。
这相当于开启一套规则全新的技术竞赛。这也解释,为什么原本主打逻辑芯片的企业,现在也高度重视存储器。
所以HBM在AI硬件成本占比持续提升,只是表象。更大的变革来自架构层面:存储正在靠近计算,部分方案里,存储本身就参与计算。
本文转自媒体报道或网络平台,系作者个人立场或观点。我方转载仅为分享,不代表我方赞成或认同。若来源标注错误或侵犯了您的合法权益,请及时联系客服,我们作为中立的平台服务者将及时更正、删除或依法处理。
