OpenAI自研芯片Jalapeño，晒出成绩单

就在英伟达同意为其数据中心提供最高 1050亿美元融资支持一周多后，OpenAI于周二现身 Hot Chips，并公布了一组基准测试结果，声称其首款自研芯片的性能超过了英伟达 GB300。Jalapeño 是 OpenAI 与博通（Broadcom）共同开发的一款推理 ASIC，在 SemiAnalysis 的公开 InferenceX 测试套件中，相比英伟达 GB200 和 GB300 机架系统，其每千瓦吞吐量高出1.5倍至1.9倍，端到端延迟降低1.7倍至3.6倍。其中，Jalapeño 的单颗芯片功耗为700W，而对比的加速器额定功耗分别为1200W和1400W。OpenAI计划于今年晚些时候开始在自有数据中心部署这款芯片。

来源：OpenAI

测试涵盖了三种开源模型：GPT-OSS 120B、DeepSeek R1 670B，以及月之暗面（Moonshot AI）的1万亿参数 Kimi K2.5。OpenAI表示，在低延迟运行点，其领先幅度最大，在 GB300 此前最快的每次 Token 间隔（time-between-tokens）设置下，OpenAI 声称 Jalapeño 的每千瓦吞吐量高出8.6倍至104.3倍。

来源：OpenAI

OpenAI 将测试结果按照各加速器公布的封装 TDP进行了标准化处理，不过该公司表示，在测试过程中，Jalapeño 的实测持续功耗保持在550W或以下。另一项附录中的对比则采用了每颗加速器的整机实际功耗：Jalapeño 为1.18kW，而 GB300 为2.55kW。在这种比较方式下，两者之间的差距有所缩小。如果将 Jalapeño 与运行多 Token 预测（multi-token prediction）的 GB300 进行比较，差距同样会缩小，其峰值能效优势降至约1.5倍。

Jalapeño 并没有与 Vera Rubin 进行对比测试。Vera Rubin 是英伟达计划采用的平台，将为 OpenAI 同意在2026年下半年部署的英伟达系统中的首个1GW规模部分提供算力支持。此外，Jalapeño 无法用于模型训练，而训练正是目前英伟达硬件仍然无人能敌的工作负载。与此同时，两者的主要对比测试都是让 Jalapeño 进行单 Token 预测，并与执行相同任务的 GB300 配置进行比较，而英伟达在实际生产部署中通常会使用多 Token 预测。SemiAnalysis 表示，其是在 OpenAI 实验室与该公司的工程师共同运行 InferenceX 测试的，并将 Jalapeño 称为“我们目前能够测试到的所有英伟达、AMD 和 Google 芯片中表现最好的芯片”。

每颗 Jalapeño 封装在今年6月公布，此前经历了9个月的 RTL 到流片（tapeout）周期。每个封装将一颗计算Die与6颗 HBM4 内存堆栈，总容量达到216 GiB，带宽为15.4 TB/s。相比之下，GB300 搭载288GB HBM3E，额定功耗为1400W。因此，按照额定功耗计算，OpenAI 的芯片每瓦所对应的内存容量大约高出50%。OpenAI 在 Hot Chips 的演讲中表示，其架构针对的主要瓶颈并不是进一步增加 HBM 带宽，而是让系统能够充分利用 HBM 的总带宽。

当然，HBM 正是当前半导体行业中最紧缺的资源。三星（Samsung）、SK 海力士（SK hynix）和美光（Micron）已经将 HBM 产能售罄至2027年。短缺情况十分严重。据报道，英伟达正在测试削减配置的 Rubin Ultra，其 HBM 容量甚至可能低至192GB。SK 海力士 CEO Kwak Noh-jung则警告称，2027年将是 HBM 供应紧张最严重的一年。美光于8月23日在同一场 Hot Chips 大会上表示，在容量相同的情况下，HBM 所消耗的晶圆面积大约是 DDR5 的3倍，而且这一成本会随着每一代 HBM 的发展进一步扩大。如果按照 OpenAI 去年10月与博通签署的10GW部署协议大规模扩展 Jalapeño，该公司将成为 HBM4 供应市场上的一个重要新增需求方。目前，英伟达通过与 SK 海力士签署多年期产能分配协议，在 HBM4 供应方面占据主导地位。

据报道，第二代 Jalapeño 芯片正在接近流片阶段，预计将在未来几个月内完成流片，而第三代芯片的概念设计工作也已经开始。据悉，第一代 Jalapeño 采用的是台积电（TSMC）3nm级工艺。这意味着在可预见的未来，OpenAI 将与 Blackwell 和 Rubin 一样，处于相同的晶圆、内存和先进封装产能供应链中。

OpenAI 正在采购这些生产所需的关键资源，同时却也在进一步加深其对刚刚进行芯片性能对比的英伟达的财务依赖。8月17日，英伟达同意为 OpenAI 在俄亥俄州租赁的数据中心园区提供最高1050亿美元的融资支持。OpenAI 硬件副总裁 Richard Ho 在该消息公布后接受采访时表示：“英伟达是一个非常好的合作伙伴，而我们仍然非常需要英伟达的支持。”