英伟达Vera Rubin NVL72实测：性能跃升450倍！

大家经历过被AI“卡成PPT”的崩溃时刻吗？让AI导出剪了半小时的Vlog，盯着进度条等了十多分钟还没走完；忙到飞起想让AI帮着整理上百封工作邮件，结果等半天才蹦出几句零散的回复。

就在刚刚落幕的Hot Chips 2026大会上，英伟达首次公布了下一代旗舰机架系统Vera Rubin NVL72的片上实测数据。结果显示，在DeepSeek V4 Pro（1.6T参数）工作负载下，Vera Rubin NVL72的每兆瓦吞吐量最高达到上一代GB300 NVL72的30倍，每Token成本最高降低35倍。

更令人震撼的是代际跨度：以H200 NVL8为基准，GB300 NVL72的性能是其15倍，而Vera Rubin相比GB300又是30倍的提升——两代叠加，Vera Rubin相对H200的性能提升达到了惊人的450倍，这个数字放在两年前根本没人敢想！

可能很多人对这个数字没什么实感，简单来讲，以前跑一个复杂的AI代理任务要花10分钟，现在用Vera Rubin NVL72只需2分钟。这意味着，在相同的时间内，企业能够处理的任务量从原来的6个激增至30个，效率提升了5倍。

针对更大规模的Kimi K3 2.8T MoE模型，GB300 NVL72相比H200更是实现了最高80倍每兆瓦吞吐量提升，同时把单用户交互能力拓展到215tokens/s，大幅突破了老硬件的性能上限。

换算成业务成本，GB300的每百万Token成本，相比H200直接降低10倍。而Vera Rubin在此基础上，再度大幅压缩Token生成成本。对于云厂商和AI企业来说，这意味着同样的电力、机房基础设施，可以承载数量庞大的智能体业务，或是在业务规模不变的情况下，大幅压低运营开支。

这份惊人的数据，并不单单来自GPU芯片本身，而是整套机架级系统协同优化的成果。在软件层面，依托SGLang、TensorRT‑LLM、vLLM等MoE推理运行时，配合DeepGEMM内核、MXFP4/MXFP8混合精度，大幅减少了数据搬运开销；同时NVIDIA Dynamo会话感知服务栈，把预填充和解码拆分为独立可伸缩资源池，借助KV缓存感知路由，可减少重复计算，充分复用历史上下文。在硬件层面，72颗GPU依靠NVLink高速互联，实现了机架规模的协同计算，解决了大MoE模型专家分片、缓存迁移的性能瓶颈。

从单点算力到系统级协同，Vera Rubin NVL72超越了传统GPU服务器的范畴。Rubin GPU负责上下文处理与解码，Vera CPU承接工具执行与KV缓存卸载，搭配Groq 3 LPX负责超低延迟交互，再由NVLink 6、ConnectX‑9网络组件完成整机数据流转，整套软硬件协同，核心目标就是减少重复计算与等待耗时，把有限电力更多转化为真正有效的智能体输出。

当然，超高性能的背后，硬件采购成本也会同步抬升，整机柜采购价格相比上一代近乎翻倍。但从单位Token成本来看，能效提升幅度远超硬件涨价幅度，这也是AI基础设施行业一个新趋势：不再单纯追逐单卡算力，而是转向整机柜的系统级协同设计。

目前，这套平台已经进入全面投产阶段，首批样品早就送到了客户手里，2026年下半年就会正式大规模部署。以后你用AI剪视频再也不用等十几分钟导出了，AI可以主动帮你整理邮件、处理基础工作且丝毫不卡顿，甚至连近地轨道上的AI卫星都能用得上这套算力。过去我们总说“算力改变生活”，这一回，这个改变真的要实实在在落到你我每一天的日常里了。