AI芯片越堆越密，散热快扛不住了

热管理已经成为AI芯片设计与生产的必备要求。半导体行业传统研发主要围绕功耗、性能、面积（PPA）三大指标，如今越来越多呼声要求，将热性能也列为半导体开发的关键指标。

近日，韩国仁荷大学Choi Ri‑no教授、汉阳大学Choi Chang‑hwan教授、高丽大学Yoo Hyun‑yong教授、仁荷大学Cho Jae‑hoon教授分享了相关技术趋势。Choi Ri‑no表示，AI芯片集成密度不断提升，传统散热手段已经逼近极限。当下行业广泛采用2.5D架构，将图形处理器（GPU）与高带宽内存（HBM）放置在中介层之上。他提到，当行业转向芯片垂直堆叠的3D架构后，散热难度还会进一步加大。

HBM带来的散热挑战尤为突出。根据Choi Ri‑no的测算：一颗功耗800瓦的GPU，距离热极限尚有约40摄氏度的余量。HBM功耗仅50瓦，但由多层DRAM裸片堆叠而成，热量很难散出。因此HBM会比GPU更早触及热极限。DRAM可承受的工作温度比GPU还要低约20摄氏度，也就是说，HBM实际上决定了整颗AI芯片的最高工作温度。

AI服务器的功耗同样在快速攀升。Choi Ri‑no展示了英伟达的技术路线图：2023年Hopper世代，单个GPU机柜功耗为40千瓦；预计到2027年，单机柜功耗将达到600千瓦，四年时间增长15倍。功耗上涨叠加集成密度提升，传统散热方式越来越难以把热量导出。

“散热方案会从芯片外部冷却，逐步演变为更贴近芯片本体的散热思路。”Choi Ri‑no说道。现有系统是把冷却液流过芯片上方的金属冷板实现散热。未来，他认为散热技术会发展到利用芯片内部打造的微流道，让冷却液直接在芯片内部流动。

汉阳大学Choi Chang‑hwan重点阐述了现已大规模应用的热界面材料（TIM）的重要性。热界面材料填充芯片与散热板之间的缝隙，改善热量传导。但问题在于，增加导热填料来提升导热能力，会让热界面材料变硬；材料硬度过高，就无法紧密贴合芯片表面，产生缝隙，反而阻碍散热。

Choi Chang‑hwan指出：“即便热界面材料导热系数很高，如果界面贴合控制不到位，散热依然起不到效果。”研究人员不再单纯增加导热填料，转而研究构建定向散热通路。其中一种思路是将石墨烯等高导热材料按特定方向排布。

随着堆叠的DRAM裸片数量增加，HBM散热难度也随之上升。裸片之间依靠凸点连接，填充间隙的聚合物材料都会阻碍热量传递。

Choi Chang‑hwan认为，可以采用混合键合技术作为替代方案：取消凸点，实现铜与铜直接键合。但铜周边的绝缘层导热性能较差。他的研究团队正尝试用氮化铝（AlN）、氮化硼（BN）等高导热材料替换该绝缘层。

Choi Chang‑hwan给出仿真数据：采用传统微凸点方案，8层DRAM堆叠温度可达95摄氏度；换成混合键合技术，温度可降至70摄氏度。

不过Choi Chang‑hwan提醒：“混合键合的落地不会一蹴而就。” 他预测该技术不会用于HBM4，大概率要到21世纪30年代初才会投入使用。

高丽大学Yoo Hyun‑yong提出，逻辑芯片的热问题，要从器件与互连设计阶段就着手解决。晶体管从平面结构演进到FinFET，再到全环绕栅极（GAA）架构，热量逸出的路径也发生改变。尤其在GAA架构中，导电沟道与硅衬底相互分离，向下散热变得困难。

Yoo Hyun‑yong表示：“工艺微缩持续推进，功率密度不断提高，但散热通路却在收窄。” 这就要求热设计借助金属互连线，把局部聚集的热量扩散到周边区域。“我们不能只局限于PPA指标，需要引入加入热维度的PPAT设计思路。”Yoo Hyun‑yong称，“器件、互连、电路、封装、系统需要协同设计，不仅要考量功耗、性能、面积，还要把实际工作温度纳入设计范围。”

仁荷大学Cho Jae‑hoon教授团队，在高导热氮化铝（AlN）材料中添加增强填料，改善其易碎裂的缺陷，“我们的目标是在保持导热性能不变的前提下，把材料抗断裂能力提升一倍。”