CDU成为GB200服务器量产新瓶颈

来源:半导纵横发布时间:2024-12-19 16:03
英伟达
GPU
生成海报
普遍认为,2025 年 GB200 的出货量将会强劲,并且每个季度的出货量都会增加。

据冷却解决方案厂商称,由于冷却分配单元 (CDU) 的交货时间较长,GB200 服务器机架的增产计划从 2025 年第一季度推迟到第二季度,这为中国台湾制造商带来了新的机遇。

此前,出货瓶颈被归咎于快速连接/断开装置(QCD)的短缺,不过相关业者指出,供应已不再短缺。

即使延迟,但“增产”一词并没有明确的定义。服务器ODM广达电脑和富士康都强调其计划量产时间表没有改变,但没有明确说明量产数量。

普遍认为,2025 年 GB200 的出货量将会强劲,并且每个季度的出货量都会增加。

多个瓶颈被指出

那么瓶颈在哪里呢?台积电的CoWoS封装问题已经解决。现在,有人认为是散热元件的问题,也有人认为是连接器的问题。也有消息称NVLink相关元件也存在问题。在散热元件方面,相关人士指出,问题不是技术跟不上,而是产能紧张。

之前有报道称瓶颈在于 QCD 短缺。然而,随着主要国际制造商提高产能,以及 Nvidia 开始认证更多公司,短缺问题得到了解决。业内人士现在开玩笑说,QCD 无处不在,而 CDU 的供应却很紧张。

据行业观察人士称,目前冷库的出货周期为四至六个月甚至更长。这主要归因于板式热交换器、电机和流量计等零部件的交货周期较长,再加上组装和测试所需的时间。

另一种解释是,主要冷扩散机组制造商Vertiv和Boyd的上游供应商存在重叠,两家公司争夺产能,导致供应不足。

MGCooling 希望抓住机遇

为因应市场迫切需求,中国台湾散热解决方案供应商美达绿能科技(MGCooling)扩建工厂,公司总部由新北市林口迁往新北市汐止,现有林口厂区将新增生产线,主要生产CDU及侧车。董事长陈茂钦表示,公司计划在汐止再建一座工厂,预计2025年竣工,并已开始筹备新产品。

MGCooling 已量产 1300kW CDU,目前正在制作新的 2500kW CDU 样品,这些样品将送往 Nvidia 进行认证。认证后预计将于 2025 年开始量产。公司总裁 Clyde Chu 指出,1300kW CDU 是为了满足 NVL72 需求而开发的,该需求对单个机架的冷却要求达到 120-130kW。

陈先生表示,相较于美国厂商,这次 Nvidia 开启液冷竞争,对 MGCooling 来说,是比较有利的。他指出,美国厂商的弹性不如中国台湾厂商,虽然很多人抱怨 Nvidia 的迭代速度太快,但这正是 MGCooling 的优势,中国台湾厂商习惯以更快的速度进行生产,因此 MGCooling 的交货周期比竞争对手更短。

褚先生指出,由于客户现场冰水资源不足,近两年侧车成为主流,目前一台NVL72使用两台侧车架,两台NVL72使用三台侧车架。

现阶段,已有 GB200 机架过热的报道,储于超表示与晶圆封装设计有关,由于封装键合导热性不佳,芯片内部温度较高,需要增加散热系统的风量,目前 GB200 机架的散热需求为 120-130kW,而 2025 年推出的 B300 需求可能会跃升至 150kW,液冷势在必行。

自 2022 年成立以来,MGCooling 已帮助华硕和广达为国家高速互联网数据中心打造液冷系统。2024 年 6 月,纬创宣布收购 MGCooling 25% 的股份。

Supermicro与Nidec合作开发水冷 CDU 以增强 NVL72 冷却效率

日本公司 Nidec 宣布与 Supermicro 合作开发用于 AI 服务器的冷却液分配单元 (CDU),该单元已开始出货。这种新的冷却解决方案的性能是现有同等尺寸设备的 2.5 倍,将集成到配备 Nvidia GPU 的 AI 服务器中。

该产品代表了 AI 数据中心服务器的下一代水冷解决方案,符合开放计算项目 (OCP) 设定的标准。它采用 4U 外形,冷却能力为 250kW。Nidec 声称这是世界上第一个批量生产的这种尺寸和能力的 CDU。

该 CDU 满足 NVL72 的冷却要求,可容纳多达 36 个 Nvidia 最新的 GPU 型号 GB200。

Nidec 强调这种新型水冷装置的空间效率和灵活的安装选项,使得能够在短时间内以较低的总拥有成本在 AI 数据中心部署 Nvidia NVL72。

2024年6月,日本电产在泰国大城府工厂增加了与超微合作开发的AI服务器水冷模块生产线,月产能从200台增至2000台,目标是到2025年3月进一步扩大到3000台。

为了支持此次扩张,日本电产还开始在中国和菲律宾的工厂生产水冷模块的管道组件,同时在中国台湾生产散热组件。

随着AI服务器市场规模不断扩大,冷却系统需求也急速增加。日本电产预估2024财年(2024年4月—2025年3月)水冷模块市场规模将突破800亿日元(约合5.24亿美元),未来有望突破1万亿日元。

据Global Information和MarketsandMarkets估计,水冷市场规模预计将在2028年增长至78亿美元,比2023年增长三倍,2023年至2028年的复合年增长率为24%,主要受亚洲和北美的增长推动。

本文转自媒体报道或网络平台,系作者个人立场或观点。我方转载仅为分享,不代表我方赞成或认同。若来源标注错误或侵犯了您的合法权益,请及时联系客服,我们作为中立的平台服务者将及时更正、删除或依法处理。

评论
暂无用户评论