Groq下一代芯片，将采用3D封装技术

英伟达实质上完成收购的AI芯片企业Groq，正计划在下一代芯片中采用3D堆叠DRAM的封装技术。外界认为，这是Groq试图摆脱以往以高速但小容量SRAM为主的设计思路，大幅提升芯片容量。

业内消息称，Groq正在研讨在下一代芯片上应用3D封装技术，改用DRAM替代原有SRAM。3D封装是将多颗半导体裸片（Die）垂直堆叠，而非平铺摆放，使其像单颗芯片一样工作。相比2D方案，它可以缩小面积、提升能效。

据悉Groq计划采用的方案为3DS（3D Stacked Memory，3D堆叠内存）。3DS是利用硅通孔（TSV）将DRAM芯片垂直互连的大容量封装。同样使用TSV，它和高带宽内存（HBM）有相似之处，但HBM主打数据传输速度，而3DS保留传统DRAM接口，重点提升容量。

一位半导体行业人士表示：“Groq计划在下一代芯片引入3D封装，堆叠的不是以往的SRAM，而是DRAM。” 行业解读认为，Groq此举意在显著扩充芯片容量。SRAM速度快，但容量有限；DRAM速度相对更低，却适合做大容量设计。

另一位业内人士则分析：“整个市场都在趋向追求更大容量芯片，Groq因此选择在容量上更占优势的DRAM。”

Groq AI芯片产量由9000片提高至15000片

今年早些时候，行业消息人士透露，Groq已要求三星电子晶圆代工部门扩大产能。随着AI推理芯片需求持续增长，三星电子晶圆代工部门有望通过深化与Groq的合作，加速改善盈利能力。Groq决定将去年委托三星电子晶圆代工生产的AI芯片产能，从约9000片晶圆提升至1.5万片晶圆。去年的产量还仅处于样片阶段，用于验证芯片能否正常用于AI推理；分析认为，从今年开始，该公司已进入商业化初步量产阶段。

AI模型的运行流程通常分为训练与推理两个阶段。训练是从海量数据中 “学习” 规律的阶段，而推理则是利用训练好的模型对新数据 “推导” 出预测或结论的过程。目前主导AI芯片市场的英伟达、AMD等企业，主要量产面向训练的专用AI芯片，但这类芯片功耗过高、采购成本昂贵，推动了能效更高的AI推理芯片需求攀升。市场普遍分析，在AI训练芯片市场占据主导地位的英伟达，通过曲线收购Groq，意在将生态版图延伸至推理芯片市场。

尽管Groq委托三星电子代工的规模并不算大，但外界认为，三星电子晶圆代工部门积极争取这笔订单，是为拿下更多AI推理芯片订单打下基础。除Groq外，三星代工还负责韩国本土推理芯片初创企业HyperAccel处理器的全部产能。三星目前正采用4纳米工艺为Groq与HyperAccel两家企业量产AI芯片。

一位半导体行业人士表示：“三星电子晶圆代工部门用于量产Groq AI芯片的4纳米工艺，融入了大量提升芯片性能的改良步骤。” 该人士补充道：“考虑到4—5纳米工艺是当前行业需求最旺盛的节点，且单位制造成本较高，争取到相关案例对避免在与台积电的竞争中落后也具有重要意义。随着英伟达入局AI推理芯片市场、Groq扩大产能，市场预计AI推理芯片市场将正式启动。”