算力集群走出实验室，规模扩张能否补齐芯片短板？

近日，多位行业专家围绕计算集群定义、设计难点与应用场景展开交流，嘉宾包括Arm云与AI基础设施芯片全球负责人Satadal Bhattacharjee、Axiomise首席执行官Ashish Darbari、楷登电子（Cadence）杰出工程师Moshiko Emmer、Expedera首席科学家Sharad Chole、西门子EDA高性能计算研发负责人Cameron Brunner以及新思科技（Synopsys）战略营销总监Sumit Vishwakarma。

从左至右：Arm Bhattacharjee、Axiomise Darbari、Cadence Emmer、Expedera Chloe、西门子EDA Brunner、新思科技 Vishwakarma。

如何定义计算集群？芯片架构师需要重点关注哪些内容？

Bhattacharjee：谈到计算集群，通常指由多机柜服务器互连组成的集群。目前服务器之间主流采用以太网连接，行业也正逐步向光互联演进。搭建集群的核心动因：业务算力需求极高，单台服务器或单机柜服务器无法承载，因此需要将大量服务器组网。多个集群组合部署又可构成算力单元（pod）。

计算集群的关键指标是低时延。当业务流量跨机柜传输时，网络时延不能出现大幅飙升。服务器之间、机柜之间的数据交互需要大量优化工作，保障跨集群传输过程中系统性能不衰减。

站在芯片架构师视角，不能仅考量单台服务器运行状态，必须从集群整体行为出发。否则即便芯片硬件运算速度提升，也会因机柜间通信等网络瓶颈造成整体效率损耗。架构师需要综合考量网络拥塞、供电、散热上限、软件调度等一系列问题。

Brunner：我长期负责算力调度软件，管理多款高性能计算集群负载调度系统，支撑大规模EDA任务运行。在我看来，计算集群是大量服务器通过组网整合，满足运营方特定业务需求。

使用场景包括芯片设计企业：大量研发人员需要依托集群实现快速设计迭代。生命科学、制造业、计算机辅助工程（CAE）领域同样存在大规模并行仿真需求，离不开对应的算力基础设施。

我十分认同Satadal提到的高速互联，这对于大规模消息传递接口（MPI）任务至关重要。集群能够整合远超单台设备的算力资源，既可承载巨型单一任务，也可同时运行海量小型任务，EDA领域这类场景十分普遍。芯片设计流程往往需要数十万乃至数百万个任务，部分任务仅运行数秒；多名工程师每日并发启动上百万任务，算力与存储需求远超单机上限。

集群需要统筹网络、存储与整体算力资源，向业务提供大规模并行算力。配套软件同样不可或缺，负责对接业务需求、高效调度硬件资源，最大化基础设施投资回报。因此，计算集群是一套完整生态，软硬件协同搭建，共同满足运营方业务需求。

Vishwakarma：各类集群负载正在发生巨变，EDA任务便是典型例子。人脑的进化逻辑和AI大模型十分相似。人类过去只能完成简单工作，大脑持续演化后得以处理复杂任务，而人脑功耗仅20瓦。对比2018年至今AI技术发展，AI能够实现的任务复杂度大幅提升。仅依靠文本提示词，就能生成一分钟视频，甚至有人借助AI制作影片，背后蕴含海量运算。

大语言模型需要逐像素生成画面，像素拼接为帧、帧组合成视频，单一GPU无法独立完成。再看当下热门的智能体（Agentic AI）任务，流程并非单一运算。一个智能体完成计算后，需要将结果传递给下一个智能体，多智能体协同作业。

举个例子：生成一份行业研究报告。下达指令后，AI智能体需要检索网页、整理数据、分析结论、制作表格、生成图表并导入幻灯片完成美化，整套流程包含多段任务。

这类复杂场景的算力需求已经超出单GPU、单服务器、单节点上限，需要多节点组网形成算力单元。大量计算节点协同工作，如同一个 “大脑” 处理巨型任务。

Chole：我更偏向从应用层面定义计算集群。集群本质是一套完整算力平台，整合硬件、互联通道与软件栈。依托平台，我们能够调度应用启动方式，并基于网络连通性、黑白名单、访问端口实现权限管控。所有能力以服务形式对外输出。

这里的服务不只局限于公有云厂商。企业内部人员访问大规模硬件算力资源时，同样可以采用服务化模式，便于应用部署、调度编排。平台还需要具备故障迁移能力，支撑应用无感知扩容、部署，同时保障运行安全。

在此框架之上，可以构建应用专属集群。例如，为单一神经网络、单个大语言模型搭建集群，将预填充与解码任务拆分部署，调度多台服务器GPU资源。两台、五台服务器组成的算力组网，本身就可以视作独立集群。

Emmer：芯片架构师视角下，计算集群绝不只是服务器集合，而是多层级通信域：裸片间互联、封装间互联、加速器与CPU互联、节点互联、机柜互联。如果底层硬件设计没有从集群全局考量，最终会转化为软件层面的时延、同步开销与功耗损失。

在我看来，集群架构的起点是芯片封装边界，而非网络边界，芯片封装应当视作数据传输第一跳。架构设计核心问题不只是 “运算速度有多快”，而是 “数据需要跨越多少层级边界才能开展有效运算”。芯粒（Chiplet）技术价值正在于此：在优化本地带宽密度的同时，实现外部算力扩展。

Darbari：在我看来，计算集群由多台服务器组网并统一调度。从任务视角，整套集群如同一台超大型计算机。每个节点搭载独立处理器、内存与软件栈，依靠高速网络和集群调度软件，整合为单一逻辑算力资源。

系统运行正确性不只取决于芯片微架构，还依赖整个系统在通信时序、数据可见性、故障恢复层面提供保障。作为形式化验证从业者，我们主张将各类约束明确建模为标准化协议，而非让硬件、固件、系统软件之间依靠隐性规则协同。

2026年4月初，阿里云联合中国电信，在广东韶关数据中心集群正式上线粤港澳大湾区首个万卡级国产智算集群 —— 真武集群。当前中国AI芯片性能相较于英伟达顶级芯片仍存在差距，但凭借创新高效网络架构的大规模算力集群能够提升整体算力表现，助力实现追赶。这套思路是否同样适用于美国企业？需要做出哪些取舍？

Chole：阿里巴巴打造万卡规模集群，会面临极大挑战。目前除模型训练任务外，几乎没有单一业务能够充分利用如此庞大集群。部分大型企业推理业务需求量可观，但训练场景通常要求大规模集群持续在线、流水线调度。

搭建这类集群需要充分考量并行策略，合理拆分任务，同时完善整套数据通路：输入数据流、节点间通信、输出渲染、状态保存、存储访问等环节都需要规划。海量节点之间的互联设计，是决定集群性能的核心。

Darbari：阿里万卡集群方案，属于依靠系统层面创新弥补单芯片性能短板。当单颗芯片不具备领先性能时，可以通过大规模横向扩展，搭建互联网络与配套软件栈，让海量芯片协同组成完整AI算力平台。

这套思路并不新鲜，美国超大规模云厂商早已落地同类系统。微软对外公布，为OpenAI打造的Azure超算整合约一万块GPU，统一调度协同运行；AWS推出EC2 UltraCluster，支持数万块GPU规模化部署训练，包含万卡级别集群；谷歌同样搭建大规模TPU算力单元，依托数千颗TPU支撑前沿大模型训练，只是硬件加速器方案不同。

由此可见，美国行业早已采用相同思路：依靠高密度互联大规模集群，实现具备竞争力的综合算力。真正关键的差异不在于显卡数量，而是配套软件生态成熟度。中国方案侧重点往往是依托系统架构与网络设计弥补单芯片劣势；美国大型集群依托更加成熟的工具链、软件框架、运维体系，以及长期运营分布式大规模基础设施积累的经验。

对应的取舍也十分清晰：横向扩展集群能够弥补单芯片性能不足，但会显著提升调优、故障处理、软件编排、安全管控复杂度。如果系统规则缺少严谨定义，规模扩张只会放大各类不确定性；如果能够完成规范定义与充分验证，大规模算力集群将成为可控的架构优势，而非脆弱的补救方案。

计算集群广泛应用于AI实验室、生命科学、高频交易等专业场景，超大规模云厂商也在大量部署。未来集群是否会渗透至更多行业？背后原因是什么？

Brunner：当前行业高度关注AI带来的算力需求变化，集群服务形成混合部署新模式，传统高性能计算集群开始承载新型业务。举个例子，我们合作的阿尔贡国家实验室，依托Aurora超算集群部署65000块GPU，支撑全球气象模拟等巨型任务。

顶尖超算集群面向独有的超大算力需求，承接其他平台无法运行的任务，这也是国家级实验室搭建集群的核心动因。美国目前已经建成三套百亿亿次级超算集群。这类科学计算场景，使用模式和传统EDA场景存在明显区别。

Bhattacharjee：我十分认同。我此前从事高性能计算系统研发，早期超算集群大多部署于国家级实验室，用于气象模拟、计算流体动力学等重度数学运算场景。

AI时代到来后，这类算力需求走向大众化，直接推动数据中心迎来巨大变革。以往超大规模云厂商普遍采用单机架30至50千瓦供电方案，如今单机架功耗攀升至数百千瓦。风冷方案难以满足算力需求，液冷技术逐步普及。

算力集群不再局限于国家实验室。全球云厂商持续新建数据中心，全行业跟进布局。叠加算力自主可控诉求，各国希望搭建本土大模型，保障政务、安全领域算力供给，减少对海外公有云依赖。企业持续投入重金拿地、部署硬件集群，同步搭建配套调度软件。

算力集群将渗透各行各业：制造业、新药研发、金融风险建模、芯片EDA、自动驾驶等领域都会广泛应用。目前行业仍处于发展早期，但算力带来生产力提升已经十分显著，任务周期大幅缩短。未来十年甚至更久，全球都会持续推进算力基础设施建设；更加智能的大模型，也将承接过去耗费大量人力与时间的工作。

Vishwakarma：我完全认同。前沿大模型训练、新模型研发所对应的负载，对比十年前气象预测等传统高性能计算任务，最大变化在于AI算力高度依赖矩阵运算、乘累加（MAC）运算。

这也是算力重心转向GPU的核心原因，并且不再局限于单颗GPU，服务器内部搭载多颗GPU，再组网形成集群。从底层视角分析，现代数据中心功耗居高不下，根源在于GPU之间、GPU与内存之间海量数据交互，模型训练过程中需要持续更新权重参数，各大企业争相打造顶尖前沿模型。推理领域同样呈现相同趋势。

当下全新挑战集中在功耗、带宽与时延；可靠性、安全性同样重要。数据中心整体功耗堪比一座城市，一系列前所未有的难题随之产生。

Emmer：我认为集群会走向普及，但不会采用统一架构。随着应用场景拓宽，面向特定领域的定制化集群方案会越来越多：不同方案内存配置、时延容忍度、控制运算与张量运算配比各不相同。

架构层面意味着模块化设计至关重要，芯粒设计由此具备战略价值。

Darbari：越来越多企业遇到单台大型服务器在性能、内存容量、服务可用性上的瓶颈，横向扩展集群架构成为现实可行方案。过去集中在超算与大型云厂商领域的技术，正在被布局AI、大规模数据分析、不间断数字服务的各类企业采用。

集群具备多重优势：企业可以分阶段扩容；单节点故障不会造成整体服务中断，消除单点故障风险；很多场景下，集群的成本收益优于持续升级单体大型服务器。

集群规模持续扩大后，依靠口头化、非标准化的描述定义系统行为将难以为继，形式化验证变得必不可少。多团队、多供应商协同搭建集群时，需要对数据一致性、故障迁移、资源隔离制定清晰标准，确保落地实现符合设计目标。