AI基础设施最大瓶颈是 “散热”

散热正成为AI基础设施最大的瓶颈之一，业内专家由此提出观点：AI本身就可以成为解决该问题的手段。据报道，韩国科学技术院Kim Joung‑ho教授警示，随着系统级半导体与内存普遍采用三维（3D）堆叠工艺，愈发严峻的散热难题或将制约AI产业的扩张。基于AI的设计自动化以及数字孪生技术，有望用来降低整套AI基础设施的发热与功耗。

堆叠工艺不断升级，内存带来的散热压力尤为突出。除堆叠DRAM的HBM之外，Kim教授预计，基于NAND闪存堆叠的HBF、基于SRAM堆叠的HBS，都将成为AI时代的下一代内存技术。伴随这些架构复杂度持续提升，他强调热管理需要全新技术思路，尤其是由AI驱动的设计自动化。

Kim教授以其实验室正在使用的 “HBM设计AI智能体” 作为实例，表示AI能够对散热结构开展优化。报道称，他呼吁推出AI设计工具：既要开发高散热架构，同时让AI自主处理日趋复杂的封装设计，并依据物理规律输出最优设计方案。

散热难题已经开始影响下一代内存的设计方向。据报道，三星推出zHBM，将内存垂直堆叠在AI加速器上方。该技术依托晶圆键合工艺，内存密度预计可达HBM5的10倍，能效提升3倍，热阻降低50%以上。

不止内存，AI芯片功耗飙升进一步给冷却系统带来巨大压力。集邦咨询的资料显示，英伟达、AMD、谷歌旗下AI芯片的热设计功耗（TDP）已经突破1千瓦，整机柜级系统功耗达到数百千瓦。AI芯片液冷渗透率预计将从2025年的约33%提升至2026年的53%，2027年将接近60%。

CPO与STCO或是破解AI散热难题的关键

首尔科学技术大学Kim Sung‑dong教授同样认为，热管理是先进半导体封装领域的一大难题。Kim教授表示，相比一味追求性能进一步提升，AI行业现在把更多重心放在热管理上，共封装光学（CPO）、系统‑技术协同优化（STCO）是两条核心技术路径。他补充，行业正加速围绕STCO开展技术研发与商业化落地。

CPO将电信号转换为光信号，对比传统铜互连方案，既提升性能与电源效率，同时减少发热量。而STCO旨在对包含热管控在内的整套系统性能做全局优化。

Kim教授表示行业正加速从基础数据分析、辅助仿真，转向AI驱动的数字孪生。物理信息神经网络（PINN）结合深度强化学习的相关技术快速兴起，可自主完成基板翘曲、电源分配网络（PDN）的设计与优化。

液冷成高端AI基础设施标配

TrendForce预测，2026年AI芯片的液冷渗透率将达到53%，2027年将接近60%。二线数据中心运营商加大AI投资，同时国内云服务商出海AI项目需求增长，预计2026年英伟达GB/VR机架级方案出货量将实现翻倍。尽管Kyber NVL144存在2027年延期的可能性，但AI基础设施的大规模投入会支撑整体GPU机架需求，出货量同比仍有望增长30% 以上。

AMD正在把策略从独立GPU拓展为完整AI平台。2026年下半年起，公司将重点推进Helios机架级AI方案，该方案整合CPU、GPU与高速互连组件，预计2027年实现大规模出货。AMD还将持续迭代MI450平台，后续推出下一代MI500平台，对标英伟达Rubin Ultra。

TrendForce指出，上述芯片平台均全面采用液冷方案。新一代AI芯片陆续推出，云服务商也在加速升级AI数据中心架构。AI芯片液冷渗透率将从2025年约33% 提升至2026年的53%。

各大云服务商当中，谷歌对液冷的推进力度最大，目前其超过80%的AI服务器已使用液冷技术。依托多年自研TPU AI加速器以及AI基础设施集成经验，谷歌搭建了高度定制化的液冷架构。随着TPU功耗与出货量持续走高，谷歌率先将液冷从单台服务器延伸到机架级系统设计，进一步推动行业液冷普及。

从供应链来看，液冷系统核心部件包含冷板、歧管、CDU冷量分配单元。液冷散热效率远高于风冷，还可以优化电源使用效率（PUE）。英伟达Vera Rubin平台全面采用无风扇全液冷设计，液冷正从GPU、CPU向CX9网卡、母排 / 电源板、光模块等关键器件延伸，进一步提升单机架散热上限。

主要冷板供应商包括Cooler Master、AVC、BOYD、Auras。AVC预计第三季度开始交付Vera Rubin冷板模组，同时已经进入AWS、谷歌、Meta、OpenAI的AI专用芯片平台供应链。

针对与芯片共封装的均热板，英伟达原本计划为Rubin平台采用两片式结构以提升散热效率，但受基板翘曲等问题影响，现阶段改用一体式方案作为过渡。Jentech是Rubin平台均热板当前的独家供应商。