功耗成瓶颈，谷歌TPU集群规模突破百万芯片

在2026年中国台湾半导体展上，谷歌介绍了其AI基础设施的发展方向，谷歌没有聚焦单颗芯片，而是阐述如何将大量TPU连接成一套完整计算系统，覆盖计算集群、数据中心，最终实现跨多个数据中心的互联；同时也谈到系统持续扩容时会遇到的功耗限制问题。

TPU：从芯片到跨数据中心的系统扩展

随着大AI模型所需算力持续增长，谷歌对TPU的研发重心已经从单芯片性能，转向整套计算系统的性能。谷歌表示，历代TPU持续提升AI计算能效。在同一AI负载下，综合考量性能、功耗与成本，TPU整体能效大约是通用CPU的100倍。

但大型AI任务对算力需求不断攀升，仅提升单颗TPU性能已经不够。因此，把更多TPU互联，协同处理同一任务，就成为算力扩容的另一项重点。一旦系统从单芯片扩展到大量TPU，处理器之间的数据交换速度与效率，会越来越大地影响整体计算性能。

谷歌采用高速芯片间互联（ICI）技术连接多颗TPU，实现高速数据交互。随着TPU数量增加，谷歌重新设计芯片互联方式，并引入光电路交换（OCS），让海量TPU之间的数据传输更快。换句话说，AI计算系统规模扩大后，性能不仅取决于单颗TPU的计算速度，还取决于大量TPU之间交换数据的速度与效率。

当数千颗TPU互联在一起，谷歌会把这些资源整合为更大的计算集群。以TPU 8t为例，单个Superpod集成9600颗TPU以及2PB共享高带宽内存（HBM），让数千颗TPU协同处理大型AI任务。

不过，如果任务需要更强算力，单个Superpod仍然存在上限。谷歌借助Virgo Network数据中心网络架构接入更多TPU，把规模从单个Superpod的约1万颗TPU，扩展到数据中心级别约10万颗TPU。

谷歌AI计算架构分为三层：约1万颗TPU组成的Superpod、约10万颗TPU构成的数据中心级系统；再通过多数据中心互联，整套计算系统可容纳多达100万颗TPU。

这套架构的目标，是让这些TPU协同处理同一个大规模AI任务。

功耗成为AI算力增长的制约因素

AI算力从单颗TPU，扩展到数千、数万颗芯片组成的系统，最终跨越多座数据中心，功耗已经成为谷歌持续扩容算力越来越重要的约束条件。

这个挑战不只是TPU本身消耗的电力。更多处理器协同工作时，芯片、内存和其他计算设备之间需要传输海量数据，这会进一步拉高整体能耗。因此谷歌的关注点，已经不再局限于提升单芯片性能，而是降低数据传输所需能耗、提升整套AI系统的电源效率。

随着功耗逐渐成为AI基础设施的瓶颈，谷歌也在调整算力效率的评估方式。过去谷歌更看重相对总拥有成本（TCO）的计算性能，TCO包含设备采购、运维、能耗等各项成本。但随着AI系统持续扩容，评估重心转向：在有限的功耗预算下，系统实际能够输出多少有效算力。

谷歌将这个指标命名为 “Delivered Value per Watt”。该指标不只看芯片规格或基准测试的每瓦性能，而是衡量整套系统每消耗1瓦电力，最终能够完成多少有效的AI计算任务。

谷歌还引用运营数据说明整体能效提升成果。2025年，其数据中心平均电源使用效率（PUE）为1.09。这意味着，除IT计算设备直接耗电之外，制冷与其他配套基础设施还需要额外约9% 的电力。谷歌称，这部分额外能耗开销比行业平均水平低83%。