1兆瓦机柜之争：堆密度还是重构架构？

数据中心正在迎接这样一种未来：单机柜功耗可以等同于一整栋建筑的耗电量。各大超大规模云厂商已经在协作制定1兆瓦机柜的相关标准。随着AI工作负载变得更加持续、自主化，且功耗不断攀升，行业内部一直存在争论：开发超高密度机柜究竟是必经之路，还是一笔得不偿失的高额投入。借助光互联、专用芯片、高压直流等技术，行业也可以走向另一条路线：工作负载分布式部署，降低单机柜密度。

至少就目前而言，数据中心运营商与云服务商（CSP）都在为向1兆瓦机柜演进做准备，这需要对数据中心底层架构做出变革。Google、Meta、Microsoft在开放计算项目OCP框架下合作，通过名为Mount Diablo的项目，基于OCP的Diablo框架搭建支撑该转型的标准，覆盖散热、机柜基础设施等各类组件。各家云服务商将在OCP框架下推动这些组件标准化，同时保留各自技术路线，围绕液冷管理、水流控制、供电等方向开展基础协作，OCP已有多项标准覆盖上述领域。

当前性能最强的AI系统，受限于短距离、高线数铜缆互联，以及配套的供电、网络、散热基础设施。楷登电子（Cadence）芯片解决方案集团产品管理与营销副总裁Arif Khan表示：“AI算力密度持续提升，支撑系统扩展所需的电气与信号连接数量会急剧增加。与此同时，GPU体积更大、功耗更高，对内存容量、散热基础设施、供电能力的要求也同步水涨船高。这会带来数据中心架构的根本性转变。机柜不再仅仅是容纳一堆服务器的被动箱体，而必须作为一套集成计算系统来设计。”

Khan称，这套设计理念已经体现在机柜级架构上，例如Nvidia的DGX平台。其纵向扩展互联架构与液冷、电源托架、母排、交换设备、系统管理深度耦合。“机柜本身成为系统设计单元，而不只是独立计算节点的容器。”

Google是1兆瓦机柜最早的倡导者之一，梳理了支撑下一代AI部署所需要的基础设施改造。Khan介绍：“这套方案的核心，是在数据中心内部采用 ±400伏直流配电，复用电动汽车行业成熟的技术与落地经验。更高的配电电压，可以在实现兆瓦级供电的同时降低电流、减少系统损耗、简化布线复杂度。”

机械基础设施也在同步迭代。开放机架宽体规范（ORW）对OCP原有机柜架构进行能力扩展，可支持体积更大、重量更高、功耗密度显著提升的AI系统。ORW机柜宽度约为ORV3机柜的两倍，并做了结构加强，为下一代机柜级AI平台提供物理基础。

AMD的Helios AI机柜架构就采用这套思路，该架构基于Meta2025年提交给OCP的ORW规范，目标打造面向AI数据中心、可落地的标准化机柜级平台。而Nvidia最新的DGX机柜级系统仍沿用相对传统的机柜尺寸，这也说明行业正在涌现多种技术实现路线。

尽管现阶段标准化工作主要聚焦共享基础设施，但云服务商一旦确定如何在机柜内配置算力、网络与封装技术，方案就会出现差异化，3D‑IC设计在此处的重要性就凸显出来。

新思科技机器学习架构杰出工程师Daniel Wilkinson指出：“几乎所有头部云服务商都在研究3D‑IC设计。要实现这么高的密度，未必需要AMD Helios那样的300千瓦级别。现阶段产品还不完全是3D堆叠设计，但1兆瓦机柜对应的系统一定会用到3D堆叠。单纯靠增大晶圆平面尺寸并不可行，会带来严峻的机械问题、良率问题，芯片之间的数据传输也会遇到瓶颈。因此各家都在探索3D‑IC，把两颗计算芯片堆叠在一起。这会大幅增加设计复杂度，带来大量挑战。我们会看到中介层上的芯片数量提升，由原来的四颗变为八颗（4+4），或是两颗（2+2）。目前这类架构形态还处在早期，不同云厂商会采取略有差异的方案。例如Google的TPU是大型脉动阵列，相当于巨型矩阵运算单元，单个节点集成两颗或四颗；另一些厂商更偏向GPU思路，采用大量小核。两种路线对应不同堆叠方案、不同约束条件，对接口IP、基础IP以及堆叠配套技术的需求也各不相同。行业还在摸索最终形态。”

无论物理形态如何，大型AI数据中心都在从以服务器为核心的设计，转向以机柜为核心的系统架构。但这也带来供电与功耗密度的新难题，尤其是处理器与机柜整体的散热上限。

Rambus院士、杰出发明家Steven Woo谈道：“对比二十年前，单机柜功耗大约4千瓦，如今机柜功耗已经突破100千瓦，供电方式也发生变化。行业正在告别12伏供电，转向48伏，还在探索更高电压，目标可达480伏甚至800伏。同样功率下，电压越高，所需电流就越小。如果维持12伏，系统就需要极大电流，但现有数据中心线缆粗细不足以承载大电流，会出现熔毁。相比采购大量铜缆，提升电压的成本更低、落地更容易。”

未来最优路线该如何选择？

提升电压只是解决问题的其中一环。随着机柜功耗持续走高，行业需要做出抉择：是继续走集中式基础设施、不断提升密度的路线，还是通过改变计算部署位置与方式来换取效率提升。

Quadric首席营销官Steve Roddy表示，升级数据中心配电与散热技术固然可以提升吞吐量与性能，但也要思考，这种极致工程化是不是解决算力难题的最优解。

“数十年来，行业一直在两种方向之间摇摆：一方面追求通用算力，另一方面转向专用算力，牺牲通用性换取更高能效与更优成本。过去60年，计算产业经历多轮周期：先是上世纪60年代大型机的集中计算，之后80‑90年代PC带动分布式计算，再到如今云与超大规模厂商主导。未来如果两大趋势交汇：专用芯片进一步发展，同时计算向分布式回归，AI建设的巨大扩容压力就会出现新变化。数据中心不会只靠通用GPU持续扩张，还会涌现大量面向推理、训练的专用芯片。器件能效提升，单位功耗可输出更多token，降低数据中心芯片功耗密度。同时，AI生成能力可以部署到千家万户与企业侧，不必无休止建设海量机房，边缘生成能力和云端服务器集群的集中式模型协同工作。”

光互联提供了另一种备选思路。Ayar Labs产品管理总监Vishal Chandrasekar称：“我们并不看好1兆瓦机柜大规模普及。厂商之所以追求超高机柜功耗，是希望在单机柜内部塞入更多GPU，缩短GPU之间距离，继续使用铜缆。但现实问题在于，即便出于可靠性、成本等顾虑不愿采用光互联，一味走高功耗路线，从200千瓦、600千瓦走向1兆瓦机柜，之后又该去往何处？就算做到600千瓦，难道继续冲击1兆瓦、2兆瓦、5兆瓦？这并不是一条可持续的扩容路径。每提升一档功耗，就要对整套数据中心重新改造，包括供电能力，甚至楼板承重。AMD Helios机柜，重量堪比一头大象。因此我们并不认为这是可行的扩容方向。”

光互联技术可以在纵向扩展域内连接50万颗甚至更多GPU。Chandrasekar说：“距离不再成为约束条件。GPU可以分散布置在一整个机柜排。数据中心内部，空间成本并不是主要矛盾，供电才是真正瓶颈。GPU分散部署，机柜维持200千瓦的常规功耗，通过光互联把十台机柜打通。最终实现和1‑2兆瓦单机柜同等性能，又不用全盘重构数据中心、重新设计整套配电系统。后者改造工作量巨大，而且几乎每两年就要重复一轮。”

供电压力日益严峻

从供电视角看，扩容问题变得更加紧迫。机柜密度不断提升，不仅互联方案需要调整，数据中心整体电气架构也被迫革新。

英飞凌首席工程师Christian Hoefling表示：“AI数据中心建设浪潮推高基础设施投入。几乎每天都有新闻，超大规模厂商规划数百兆瓦、甚至吉瓦级的新增数据中心。过去单机柜功耗普遍低于100千瓦，现在来到250千瓦区间，未来单机柜功耗将冲击1兆瓦。CPU时代GPU峰值电流约100‑300安培；现代GPU峰值电流已经达到1000‑2000安培，预计本十年末单颗GPU峰值电流将达到10000安培。”

这会对配电损耗带来巨大影响。Hoefling指出：“电路板上的配电损耗持续走高。供电电阻不变的情况下，峰值电流翻倍，功率损耗将提升四倍，损耗和电流的平方成正比。”

功耗攀升推动架构迭代：从12伏演进到48/50伏，再到800伏交流，直至高压直流。“转向高压直流配电、重构架构，核心目标就是提升能效。每减少一次电能转换环节，就能收获一份效率增益。”

提升直流配电电压，本质是满足机柜大功率的现实需求。Hoefling举例：“一台功耗1兆瓦的服务器机柜，如果采用50伏母排，母排需要承载约20000安培电流。数据中心架构必须变革，降低I²R损耗。整套数据中心的供电架构正在彻底改写，需要全新技术。到本十年末，吉瓦级数据中心有望整体从交流配电切换为高压直流配电，减少转换环节，简化机柜侧供电。”

基础设施改造只是一方面，工作负载本身也在变化。智能体AI把过去间歇性的算力峰值，变成长期持续高负载，颠覆传统功耗假设。长周期智能体工作流改变硬件资源配比，直接推高持续供电需求。

西门子EDA EDA AI & Solido产品负责人Sathishkumar Balasubramanian谈道：“长周期智能体及其调度编排，打破了过去按平均功耗设计、只应对偶发峰值的思路。大量AI工作负载几乎等同于持续跑在峰值功耗，功耗管理与功耗分析变得至关重要。”

AI与智能体工作负载，让系统设计从基于空闲 / 平均功耗，转向近乎持续峰值工况，对功耗管理与分析提出严苛要求。“智能体AI负载波动极大，很多场景接近7×24小时满负载。系统不能再按照平均负载做配置，必须面向持续峰值运行来设计，保证整套功耗与散热体系可以扛住这类工况。功耗管控、功耗分析都要做到位。”

AI智能体还进一步加重本就高度复杂的设计，高切换频率与高密度带来大量热效应、3D‑IC相关问题。架构向上扩展，增加核心数量、采用3D‑IC，都会推高功耗密度和供电要求。Balasubramanian称：“行业迭代速度飞快，架构持续更新，新项目不断涌现，验证工作压力巨大。未来大量产品都会是芯片堆叠，必须充分理解各类物理效应。一条高速总线，会带来怎样的热分布，都需要评估。”

智能体AI偏向高负载、持续运行的算力。“智能体AI的关键之一是上下文切换。衡量智能体系统性能的重要指标，就是处理器或系统保存、挂起、恢复复杂模型的速度，用户会在不同任务之间来回切换，不能出现长时间等待。”

机柜功耗向着1兆瓦迈进，功耗越来越等同于算力密度。但单纯堆砌更多计算单元，并不能直接带来应用性能提升。

Cadence的Khan表示：“加速器之间高效通信同样关键。纵向扩展互联需要更高带宽、更低时延、更优能效，同时实现广泛生态兼容。AI训练与推理越来越受内存带宽、同步开销、集合通信效率、尾部时延制约。把数千颗GPU塞进机柜级环境，只有让GPU协同成一套完整计算系统，才有实际价值。这也是UALink等新一代加速器互联开放标准愈发重要的原因，为搭建大规模加速器域打下基础，同时推动生态兼容与技术创新。”

产品市场窗口持续收窄

功耗、散热、封装层面的AI驱动变革，同时压缩产品市场周期。下一代技术到来之前，留给厂商完成架构重新设计、验证、落地的时间越来越短。

Synopsys产品管理执行总监Manmeet Walia表示：“产品量产的市场窗口只有一年。一旦错过，这一代产品基本就宣告失败，只能直接转向下一代。对我们工具厂商来说，节奏必须更快。整套标准的敲定周期只有1.5‑2年，标准定稿之时，我们就要完成完整子系统测试芯片。举个内存行业例子，市面上有三家HBM供应商。当新一代HBM准备就绪，我们的子系统测试芯片就要同步就绪，模拟客户SoC会集成的IP，并且要和HBM共同封装在协同基板上，这本身就要消耗数月，进一步挤压项目周期。”

先进封装同样拉长开发周期，倒逼更早开展准备，保障整体流程顺畅。最终测试样片需要在下一轮部署前完成验证，难度很高。

Walia说：“加速器项目投入动辄十亿美元，不容出错，不能直接使用未经验证的IP。标准迭代节奏已经快过芯片开发周期，我们还要跑在标准前面，压力巨大。这种高速迭代状态长期来看不可持续，行业终会回归理性。”

行业能否走向更合理的开发节奏？

Synopsys的Wilkinson认为模型规模分化会起到缓冲：“大家总说模型越来越大，超大型模型确实在膨胀，但承担70% 推理任务的主力模型大多是中等规模，万亿参数级别，而非十万亿参数。例如Google面向消费端的AI模型，很多就在万亿参数甚至更小。绝大多数token生成来自主力推理模型，对资源要求相对可控。行业需要理性看待总体拥有成本TCO，区分主力模型与Claude这类超大规模训练模型，二者所需基础设施并不一样。即便是智能体业务，很多也可以运行在中小型模型，并非全部追求超大规格。不少云服务商同时维护多套平台，部分业务选用Nvidia或AMD，也有自研基础设施，技术侧重点各不相同。”

现实情况错综复杂，很多自研项目更多服务主力业务模型，而非吸引眼球的旗舰大模型。也就是说，并非所有业务都要跑在1兆瓦机柜之上。

Wilkinson认为解决方案会进一步分化，既有超大规模厂商自研方案，也会出现初创企业及其他参与者面向企业本地部署的产品。“不是所有企业都愿意用公有云AI。企业几乎不可能在机房内部部署重达数吨、功耗500千瓦的机柜。他们需要适配现有IT机房条件的本地方案，承载的工作负载也未必是大语言模型。市场体量巨大，没有任何一家厂商可以覆盖全部场景。高速迭代的局面最终会走向细分与专业化，不同场景匹配不同设备，部分产品不再需要极致前沿的技术，开发周期也会适度放宽。”

但方案多元化，并不会消除集成难题，反而让全栈协同变得更加关键。

Cadence的Khan指出，向1兆瓦机柜演进本质上不是机柜本身的问题，而是整个生态的集成难题。“想要取得成功，供电、散热、网络、互联、内存系统、光互联、软件、数据中心基础设施必须协同创新。AI时代的赢家，不会是只把单一组件做到最优的企业，而是打通全链路的玩家，从电网到芯片、从芯片到冷却设备、加速器到加速器，把机柜、网络乃至整个数据中心视作一套完整的AI系统。”