
良好的散热能够保障硬件使用寿命、充分释放硬件性能,这已经不是秘密。但对于数据中心AI硬件而言,优秀的散热还意味着更高的持续性能,直接关系到设备运营方的收益。Frore Systems是一家采用半导体级设备制造散热方案的厂商,该公司找到了一套可行方案,能够降低下一代AI加速器的工作温度,并将性能提升15%。
Frore Systems发布一份白皮书指出,对整套散热体系进行优化,包括GPU封装、热界面材料(TIM)、冷板以及冷却液温度,可将每瓦算力的token生成量提升30%以上。同时,该公司基于解析热模型做出一项大胆预测:仅依靠自家LiquidJet冷板技术,就可将英伟达Rubin GPU的结温最高降低12℃,实现每瓦token性能提升10%‑25%;而结温下降10℃,token生成能力大约可提升15%。
事实上,即将面世的英伟达Rubin这类新一代AI加速器,功耗最高可达2400瓦,芯片裸片温度很容易达到95℃甚至更高。95℃本身不一定会缩短硅芯片寿命,但漏电流会带来严重问题。漏电流会随温度呈指数级增长,结温每升高10℃,漏电流大约就会翻一倍,同时晶体管开关效率也会随之下降。
因此,GPU温度越高,就需要更高电压来维持工作频率;最终动态电压频率调节(DVFS)会被迫降频,把温度控制在阈值以内,进而造成性能与token生成能力下降。
由此可以得出一个简单结论:散热效果越好,性能与token输出能力就越高。这个大方向本身没有问题,但散热问题并不简单,涉及多项可优化的影响因素。此外,对于AI数据中心来说,散热的意义已经不止是防止CPU、加速器过热,更是用来最大化设备性能、提升token业务收益。
英伟达平台设计以最高结温Tj (max) 作为核心约束条件,这也是GPU、封装以及散热方案最基础的设计限制。具体工作逻辑如下:
英伟达规定了芯片允许的最大结温(Tj,max上限),芯片正常运行时不能超过该温度。该具体数值并非全部对外公开,Frore在分析Rubin时采用95℃作为参考阈值。
GPU依靠数十至上百颗片上温度传感器持续采集结温,电源管理单元会监控芯片温度最高点。
动态电压频率调节(DVFS)会在不突破温度、功耗上限的前提下尽可能拉高性能;如果存在散热余量,GPU就可以维持更高主频或者降低工作电压。一旦结温升高,固件会逐步调整电压与频率;必要时会触发降频,避免超出Tj (max) 上限。
问题在于GPU会同时受多重条件约束:结温上限Tj (max)、封装功耗上限、电流上限、电压上限。多数场景下,设备会先触达功耗上限,而非温度上限。现有散热系统的设计目标,就是避免芯片触及Tj (max)。因此,即便英伟达GPU没有触发温度上限,降低实际工作结温依然可以提升能效,原因是温度下降会减少晶体管漏电流,这正是Frore散热方案的价值所在。
Frore表示,结温每升高10℃,漏电流功耗大约翻倍;同一温度区间内,晶体管开关功耗仅上升约2%。所以即便处理器没有发生过热降频,降低工作温度依旧可以带来收益。
Frore Systems发布的LiquidJet Nexus一体化水冷冷头,面向英伟达Grace Blackwell以及即将推出的Vera Rubin平台。该产品采用半导体刻蚀与键合工艺,加工过程匹配处理器实际发热分布。它与传统服务器散热硬件有本质区别。传统加工工艺会造成热界面不均匀,而Frore Systems这款一体化水冷冷头,使用原本用于半导体制造的设备加工。整套制造流程包含精密刻蚀与键合,可以直接在冷板本体内部加工出微流道,让冷板轮廓完全贴合目标处理器的物理外形。
Frore Systems此前演示了在标准服务器托盘内对双GPU搭配CPU的组合完成散热测试。该产品目标是替换当前高性能计算中结构复杂、由多零件拼接而成的水冷冷头。把多项散热功能整合到单一一体化部件,既可以简化装配流程,又能在不同硬件配置下维持严苛的散热指标。
长期运行时,传统冷板很难在芯片凹凸的表面上保持均匀接触压力。一体化架构把流道与底座做成完整的单一构件,消除界面缝隙。依靠这种完整结构,热量可以直接从处理器裸片传导至冷却液,不需要经过多层机械拼接结构或者粘接层。
本文转自媒体报道或网络平台,系作者个人立场或观点。我方转载仅为分享,不代表我方赞成或认同。若来源标注错误或侵犯了您的合法权益,请及时联系客服,我们作为中立的平台服务者将及时更正、删除或依法处理。
