图解HBM战况

在人工智能浪潮的推动下，HBM（高带宽内存）一下子成了热门焦点。那么究竟什么是 HBM 呢？它和传统的 DRAM（动态随机存取内存）相比，又存在哪些不同之处呢？

HBM 即高带宽内存，作为重要的供应商，SK 海力士在 2023 年的股价大幅攀升了 86%，美光的股价更是上涨了近 70%。而这背后的主要原因，终究还是和人工智能脱不开关系，甚至可以说和英伟达（NVIDIA）密切相关。

到底什么是 HBM？为何它在 AI 时代会成为众人竞相追捧的关键所在呢？

HBM与DRAM有何区别？

简单来讲，AI 处理器的性能越强，对内存的要求也就越高。

美光公司副总裁兼运算与网络事业部运算产品事业群总经理Praveen Vaidyanathan指出，芯片的性能表现与内存的带宽和容量呈正相关关系。随着大语言模型（LLM）参数量的不断增加，就需要更高带宽的内存，这样 AI 处理器才能得以顺利运行。

HBM 相较于传统的 DRAM 属于高带宽内存。高带宽就好比是高速公路，道路越宽阔，能够承受的车流量就越大。换而言之，带宽越高，内存能够传输的数据量也就越大。

《SemiAnalysis》提到，仅 GPT - 4 就包含 1.8 万亿个参数，要想应用 AI，就必须搭配像 HBM 这样容量更大、存取速度更快的内存，以便参数能够轻松地被传输和存储。HBM 是由大众熟知的 DRAM（动态随机存取内存）通过堆叠，并借助 3D IC 先进封装技术制作而成的。

就如同搭建积木一般，利用先进封装技术将 DRAM 进行 3D 立体堆叠，从而增加带宽和储存空间。它和一般的 DRAM 并非是相互取代的关系，而是基于不同的应用需求所衍生出来的一种技术。

HBM 技术的难点在哪里？

这项技术听起来似乎简单，然而实际上却存在不少需要突破的技术障碍。Praveen Vaidyanathan指出了以下三项技术难点：

首先是厚度方面。HBM 的厚度仅为人类头发直径的一半，这就意味着每一层 DRAM 的厚度都必须严格控制，研磨工序必须做到相当精细。在这种情况下，企业必须具备更为先进的 DRAM 制造工艺才有可能实现这一要求。

其次是晶圆堆叠的精准度问题。HBM 的封装过程是先将每一片 DRAM 晶圆整齐叠放好，然后再进行切割，切割下来的晶粒就是 HBM。不过，制造商为了使堆叠后的厚度更薄，会在硅晶圆上打孔并使用金属物质将其填满，以此来实现通电功能，从而取代传统封装所使用的导线架。这种打孔技术就被称作 “硅穿孔（TSV，Through Silicon Via）”。

如果是堆叠 4 层的 HBM，那么从晶圆开始堆叠一直到切割之前，都必须精准地对齐硅穿孔（TSV），Praveen Vaidyanathan说：“切割的时候也不能出现移位情况，否则就无法导电。” 由于硅穿孔的尺寸极小，所以需要极其精细的工艺才能做到精准对齐。

第三点就是堆叠之后的散热问题。HBM 之所以被研发出来，是因为芯片制造商希望能够将内存和处理器，包括 CPU 和 GPU，全部集成在一颗 IC 芯片当中。这样一来，内存与处理器之间的距离就比之前近了很多，散热问题也就更加亟待解决。综合这三点来看，封装技术的重要性相比以往显得更为突出了。

HBM 都有哪些应用呢？

由于 HBM 技术难度较高，其成本也相对昂贵。早在 2023 年 HBM 就已经问世了，当时AMD联合海力士共同研发了第一代 HBM，但是因为价格太过昂贵，所以很少被芯片制造商所采用，直到如今因为 AI 应用的兴起才逐渐崭露头角。

芯片行业人士分析认为，虽然越先进的 HBM 价格越高，但是只要其性能足够好、耗电量足够低，厂商当然愿意投入高额成本来采用它，“不然黄仁勋怎么能喊出‘买得越多、省得越多’的口号呢。”

那么，HBM 的市场在哪里呢？就目前来看，AI 服务器将会是 HBM 最为重要的市场，美光以及海力士的 HBM3e 已经通过了英伟达的验证，市场上甚至盛传英伟达已经支付了数亿美元的预付款以确保其供应。Praveen Vaidyanathan指出：“AI 服务器所需要的内存量，是传统服务器的 5 至 6 倍。”

除此之外，未来自动驾驶汽车市场同样是 HBM 极为重要的应用领域。Mordor Intelligence在 10 月份发布的一份报告中提到，自动驾驶汽车以及 ADAS（自动驾驶辅助系统）正在促使 HBM 的需求不断攀升。从目前的形势来看，AI 服务器加上车用 HBM 的市场需求期，可能会持续长达 10 年之久。

HBM 背后的内存市场争夺战！

在这样的大背景下，HBM 已然成为了内存巨头们角逐的最新战场。集邦科技指出，作为先行者的海力士，在 2022 年斩获了全球近五成的 HBM 市场份额，一举夺冠；紧随其后的三星占据了四成份额，美光则占一成。据《BusinessKorea》报道，三星将在 2024 年积极扩大 HBM 的产能，以期追上海力士的步伐。而看似处于劣势的美光，则希望在 HBM 这场战局中，凭借技术优势吹响反攻的号角。

就如同台积电的 3 纳米、5 纳米制程一样，DRAM 也存在制程的迭代更新，其顺序依次为 1y、1z、1α（1 - alpha）、1β（1 - beta）和 1γ（1 - gamma），其中 1β 是目前已经量产的最先进的内存产品，1γ 则还未实现量产。如果进一步进行比较的话，就最新一代的 HBM3e 而言，三星采用的是 1α 制程，而海力士和美光都采用 1β 制程来制作，在技术层面上领先于三星。投资银行的分析师指出，美光正是希望借助 HBM 技术上的领先优势，来抢占市场领先地位。

不过，HBM 当前面临的最大挑战在于 “良品率”。

日本微细加工研究所所长汤之上隆曾指出，尽管 HBM 的技术门槛颇高，但其售价相较于 DRAM 要高出 10 倍有余，商业利润的诱惑相当大。所以，即便 HBM 的良品率低于 50%，对于内存制造商而言，这依然是一个无法轻易舍弃的市场。

集邦科技还进一步提到，下一代 HBM 预计会在 2026 年推出，其堆叠层数将会从现有的 12 层增加到 16 层，并且有机会在 2027 年正式面市。到那个时候，先进封装技术以及良品率所起到的作用将会变得更加关键。

长期以来，全球内存市场呈现出三分天下的格局，而在 HBM 受到高度重视之后，便开启了全新的竞争局面，甚至有可能使整个局势发生扭转。在这个以先进技术优先、成本次之作为考量因素的 AI 时代，内存相较于以往将会发挥更为重要的作用。