GPU能否继续主导AI算力？

从厂商维度统计，GPU占据全球已部署AI算力总量的70%，定制芯片占剩余30%，主要来自谷歌和亚马逊。

图1：全球各厂商已部署AI算力规模。来源：Epoch.ai

已部署AI算力三年增长17倍。2023年，英伟达份额为90%，谷歌占10%。过去三年，定制AI算力拿下20%市场份额。这一趋势能否延续？（注：Epoch的统计数据未纳入Meta、微软与Cerebras的AI算力，这部分体量相对较小。）

本文将先讲述英伟达强大的产品阵容与近期乐观的增长预期；再分析云厂商与前沿模型企业自研定制AI芯片取得的进展和优势；最后探讨面对定制AI芯片性能持续提升、竞争加剧，GPU厂商英伟达和AMD可以采取哪些手段守住市场份额。

英伟达需求旺盛，整套系统方案竞争力强劲

英伟达于8月26日发布财报。当天，黄仁勋在采访中透露了几个重点：需求极其旺盛，而且还在加速增长；英伟达预计下一财年营收增长70%，增长上限受限于产能供给；AI业务现在已经能给所有参与者创造收益，因此各方都想要更多算力；英伟达业务一半来自大型云厂商，另一半来自其他客户，包括区域云、主权云等；英伟达GPU具备通用性，可在完整业务生命周期内使用，能够运行各类模型；云厂商反馈，他们五年前采购的AI算力如今价值不降反升；AWS计划采购200万颗GPU以及数百万颗Vera CPU。

英伟达每一代新GPU都比前代能效大幅提升。英伟达交付的不只是GPU芯片，还提供NVL72扩展互联网络、整机机柜、低延迟推理方案（Groq 3 LPX）、面向智能体优化的Vera CPU、BlueField DPU以及Spectrum-6 SPX横向扩展网络。整套软硬件协同设计，带来单独GPU无法实现的性能增益。在2026 Hot Chips大会上，英伟达发布五篇关于多款全新芯片的论文，占大会论文总量的五分之一。

英伟达在Hot Chips上披露了Vera CPU细节。Vera采用更大的单线程内核，面向AI智能体低延迟计算做了优化。公司测算，在智能体工作负载下，它相比传统CPU性能提升1.8倍。

英伟达Vera Rubin已经进入满产爬坡阶段，CoreWeave、谷歌云、微软Azure、甲骨文云、Nebius均已上线搭载该芯片的机柜。英伟达营收保持强劲增长，叠加下一财年70%增长预期，Vera Rubin的量产落地有望在2026、2027年进一步提升英伟达在存量AI算力中的占比。

在Hot Chips大会，英伟达介绍Vera Rubin，并对比了它与GB300的帕累托性能。

图2：Vera Rubin NVL72运行Deepseek-v4-PRO的性能对比GB300。

数据中心最稀缺的资源之一是电力，客户追求更高的每兆瓦Token吞吐量（TPS/MW）。不少客户希望超大模型实现极低响应延迟，也就是更高的单用户Token吞吐量（TPS/user）。Vera Rubin可以同时满足这两点。交互性越高，业务价值越高，因此Vera Rubin在高价值场景相对GB300的优势最大，最高可达30倍。这得益于多项GPU创新，同时也包括Vera这类配套芯片的技术突破。

去年英伟达授权Groq的LPU技术，并吸纳Groq团队，让LPU作为协处理器搭配Vera Rubin使用，为高价值业务负载实现更低推理延迟。在Hot Chips大会，英伟达详细介绍LPU架构与编程模型，展示LPU与GPU协同工作的多种模式。如下基准测试所示（本次测试采用GPT-OSS-2T，而非Deepseek），Vera Rubin+LPU组合实现了大幅降低的推理延迟，显著提升单用户Token吞吐量。

图3：搭配LPU的Vera Rubin同时提升每兆瓦Token吞吐量与单用户Token吞吐量。

AMD MI455x GPU与Helios机柜

AMD做了两场演讲，介绍最新GPU以及Helios整机机柜。相比前代GPU，其性能指标大幅提升。AMD现在借助博通以太网交换机，实现最多72颗GPU的纵向扩展。Helios是一套完整机柜级系统。和英伟达一样，AMD面向客户提供全套解决方案。AMD在较短时间内进步明显，全球已部署算力份额从0%增长至6%。不过AMD没有公布任何AI工作负载的性能对比曲线。

模型厂商自研芯片，是否掌握打造顶尖AI算力的优势？

Hot Chips大会上，Meta、微软、谷歌详细介绍新一代AI加速器；OpenAI也披露首款AI推理加速器Jalapeño，性能表现亮眼。大型云厂商、前沿模型企业承载大量AI工作负载，显然希望更多业务跑在自家优化芯片上。

模型厂商具备一大优势：相比GPU厂商，他们更懂自身业务负载，清楚训练与推理的配比，更关键的是掌握系统瓶颈与长期技术路线。依托庞大的存量算力，他们可以对现有自研芯片、规划中的芯片特性以及英伟达芯片开展详尽基准测试。

大型云厂商与模型厂商相当一部分算力资源用于自家模型训练与推理服务。此外，谷歌、亚马逊已经对外提供甚至售卖TPU、Trainium芯片，引导云客户把业务负载从GPU迁移至TPU/Trainium。

云厂商、OpenAI、Anthropic部署AI算力的规模提升了一个数量级。如今针对特定负载定制AI芯片已经具备经济可行性，可以分开设计专用训练芯片与专用推理芯片。几年前，开发两款芯片的增量成本可能超过1亿美元（光掩膜、设备、团队成本就超过3000万美元），成本高到难以落地。但放到当前算力规模下，如果定制芯片能把单位功耗吞吐量提升10%~30%、芯片面积缩小10%~30%，投入就具备性价比。电力与晶圆是当前供给受限环境下最稀缺的资源，这种紧缺局面大概率持续到2030年。

OpenAI Jalapeño初登场，性能对标Vera Rubin

OpenAI首款芯片Jalapeño表现亮眼。Jalapeño由小团队在较短周期内完成开发，大量借助OpenAI自研AI工具辅助研发。芯片面向OpenAI业务负载做了优化，但也能够运行任意模型，定位推理芯片。团队同时针对Prefill和解码阶段做优化，并把KV缓存保存在片上本地存储。

团队提到HBM内存容量可以支撑更高Token吞吐率。架构设计规避瓶颈，充分释放HBM带宽潜力。他们预计每一代芯片性能都会持续提升，第二代芯片研发工作已经启动。

Jalapeño集群采用博通Tomahawk 6交换机，单集群最多128颗Jalapeño；更大规模全局集群（最多2048颗Jalapeño）继续叠加Tomahawk交换机。

Jalapeño已经开展数月测试，OpenAI公布多项基准测试结果。

图4：Jalapeño运行DeepSeek模型性能对比英伟达GB300。

受测试时间限制，Jalapeño本次公开基准均基于单Token预测（STP）。未来会启用多Token预测（MTP），预计性能提升3~5倍。测试覆盖GPT-OSS、DeepSeek R1、Kimi K2.5，并与英伟达GB300的STP、MTP模式对比。所有测试场景中Jalapeño性能都显著优于GB300。

Jalapeño和Vera Rubin NVL72对比如何？英伟达Vera Rubin演讲数据显示，相比GB300，其性能提升区间为2~30倍（低交互场景提升2倍，超高交互场景最高提升30倍）。粗略把GB300性能曲线平移上述幅度，大致就能得到Jalapeño的性能水平，说明Jalapeño性能基本可以对标Vera Rubin。这只是估算结论。

Hot Chips大会结束后，SemiAnalysis发布分析，判断Jalapeño可与Vera Rubin正面竞争。Jalapeño本身是一项了不起的成果。后续随着更多细节披露，我们才能确认该性能是否可以稳定复现。如果属实，OpenAI会尽可能多地采购Jalapeño芯片，产能上限取决于博通配套硬件以及台积电晶圆配额。但Jalapeño只能做推理，OpenAI的算力需求中，训练算力占比可能超过三分之一，无法由Jalapeño承担。

OpenAI仍会多方采购算力，但推进第二代、第三代Jalapeño芯片大概率是核心优先级。当供给紧张局面缓解后，Jalapeño会成为OpenAI AI算力中快速增长的组成部分。

有意思的是，英伟达不久前向OpenAI投资300亿美元。

Anthropic组建自研AI芯片团队

Anthropic近期挖来OpenAI硬件团队核心成员Clive Chan，推进自研AI算力芯片项目。Anthropic近期公开确认组建内部芯片团队，为Claude大模型设计定制芯片，称这是其 “多芯片路线” 的最新一步。

谷歌TPU 8t与TPU 8i

谷歌在AI算力领域已有十年积累。2015年第一代TPU面世，主打推理；第二代TPU面向训练。谷歌长期分开优化推理芯片与训练芯片，通常每年交替迭代训练、推理版本。

谷歌现在同步推出TPU 8t训练芯片与TPU 8i推理芯片。业务规模提升一个数量级，并行开发两款芯片成本变得可控，同时充分利用稀缺电力与晶圆资源带来的收益十分可观。第八代TPU性能约为前代两倍。

图5：推理芯片TPU 8i搭载更多HBM，芯片面积是训练芯片TPU 8t的1.4倍。

对比TPU 8i和TPU 8t的芯片面积，可以看出专用训练芯片带来的资源节省。如果做一颗同时兼顾推理与训练的通用芯片，需要增加训练所需的反向传播逻辑，芯片面积大概率会比TPU 8i再大10%~20%。

推理和训练的互联拓扑架构不一样，源于二者需求差异： 推理芯片采用Boardfly架构。每块载板上四颗TPU全互联；8块载板通过铜链路组成一个全互联分组；36个分组进一步互联，最多支持1152颗TPU 8i协同工作。最大跳数仅7跳，降低延迟，这对推理性能至关重要。Hot Chips幻灯片虽未提及，但谷歌此前介绍Boardfly采用光电路交换机（OCS）。

训练芯片沿用谷歌经典3D环面拓扑。它具备更高的二分带宽，对训练任务至关重要，但最大跳数可达16跳。超算集群最多可搭载9600颗TPU 8t，借助OCS实现内存共享，支持任意切片规模、任意拓扑，方便绕开故障芯片。OCS对训练集群至关重要。谷歌还开发Virgo网络，打造全局无阻塞集群架构，最大可接入134400颗TPU，支撑规模最大的前沿大模型。

TPU主要客户包括Anthropic、OpenAI、Meta与苹果。摩根士丹利近期预测，谷歌TPU今年下半年销售额可达90亿美元，2027年840亿美元，2028年1080亿美元，体量十分可观。（英伟达最近一个季度营收960亿美元，下个季度指引1080亿美元，其中约90%来自数据中心业务。英伟达预计明年营收增长70%。）

谷歌云服务覆盖广泛客户与多样业务负载。很多客户和workload仍然想要、也需要英伟达GPU。但谷歌云正推动客户迁移到TPU。

2026 Hot Chips大会其他定制AI加速器

Meta首款AI推理加速器MTIA，用于Facebook、WhatsApp、Instagram的推荐模型加速。Meta称GPU并不适配这类负载：海量稀疏嵌入表、内存受限运算。Meta第二代加速器MTIA 300面向推荐模型训练，在大批量训练场景下，单位成本性能已经略高于GPU。MTIA 400正在研发，同时支持生成式AI与推荐系统。Meta芯片路线图保持每半年以上推出新品。Meta最了解自身业务负载与瓶颈，因此可以针对性设计硬件加速瓶颈环节。

与此同时，Cerebras发布CS-4。单用户Token吞吐量相比上一代CS-3提升2倍，单位功耗吞吐量最高可达CS-3的10倍。该产品面向需要超低延迟模型服务的客户。公司称CS-5预计一年后性能再翻倍，CS-6将采用3D堆叠DRAM，性能继续翻倍。

图6：Cerebras CS-4降低单用户推理延迟，Token吞吐量提升一倍，单位功耗算力最高提升10倍。

微软、SambaNova、D-Matrix也在大会发布最新AI算力芯片。

GPU厂商还能做什么，在定制芯片浪潮下守住份额？

英伟达每年投入技术研发与新品落地的资金，已经超过所有自研定制AI芯片企业。强劲营收增长持续带来充足现金流。

英伟达动用资本锁定供应链。财报电话会上高管表示，公司供应链承诺金额从1190亿美元翻倍至2790亿美元。英伟达和台积电深度绑定，手握充足资金采购内存，未来数年仍有望凭借稀缺资源获取能力保持龙头地位。

即便如此，英伟达依旧面临产能约束。CFO在财报会上提到，如果不受产能限制，明年需求增幅甚至会高于70%。

供给端最大瓶颈大概率是台积电晶圆配额以及HBM供应。英伟达可以通过分别开发专用训练芯片、专用推理芯片，更好利用这些稀缺资源。凭借其复杂芯片研发能力，英伟达甚至可以在推理专用芯片、训练专用芯片之外，继续保留通用GPU产品线。

AMD或许可以考虑收购Cerebras（其市值仅为AMD的十分之一），获取类似LPX的低延迟推理方案；或者Etched这类AI算力初创公司，也能以更低成本提供同类方案。

谷歌表示OCS光电路交换机是自身一大优势。英伟达、AMD可以引入OCS技术，提升横向、纵向扩展网络能力。铜互连技术逼近物理极限，GPU性能继续提升需要光互连。云厂商相对谨慎，预计优先采用NPO降低风险。但NPO性能上限不及CPO。英伟达或AMD可以率先把CPO集成进GPU，实现对手采用NPO / 铜互连无法企及的性能。

模型自研让模型厂商在推理芯片领域获得优势。英伟达已经投入开发Nemotron这类开源权重模型，在Open Router统计的热门免费模型中，前四名里有三款是Nemotron。近期英伟达与Poolside达成70亿美元交易，拿到开源模型软件授权并吸纳其绝大多数工程师（超过100人）。免费模型本身不直接创造收入，黄仁勋看重的，是模型带来的业务洞察以及客户粘性。

结语

英伟达拥有深厚护城河，但它同时面对手握巨量资源的大客户。2~5年后，当晶圆、HBM供给由紧转松，英伟达与AMD将迎来挑战：部分大客户有能力自研、部署定制AI芯片承载自身业务。

Anthropic、OpenAI的算力100%服务自身业务；谷歌、Meta的算力大部分用于自家模型；亚马逊、微软算力大多服务外部客户。英伟达与AMD必须持续发力，才能跟上客户自研AI芯片的脚步。如果Jalapeño量产落地后性能达到甚至超越Vera Rubin，对GPU阵营而言将是强烈预警信号。