英伟达200亿美元，点燃AI芯片市场

英伟达与Groq达成的交易引发连锁反应。这家 GPU 巨头以 200 亿美元获得了Groq技术的非独家授权，并挖走了其大部分技术团队。这笔交易在整个AI芯片行业产生了两大重大影响。

首先，如果我们认为英伟达是为了技术收购了 Groq，而非商业原因，那么这就证实了非 GPU 加速器完全拥有大规模市场空间。AI芯片企业一直在追求快速的单用户 Token 生成速度与首 Token 响应时间，因为这显然是 GPU 的致命弱点。长期以来，Groq 与 Cerebras 在单用户 Token 速度上都能超越英伟达，但当时市场对采购非 GPU 硬件兴趣不足，这些公司不得不自建基础设施来证明自身价值。

英伟达 “收编” Groq，表明英伟达承认了这一短板的存在。本月晚些时候的GTC大会，我们可能会了解英伟达的更多计划，但行业传闻称，Groq 的硬件 IP 可能被用于缓解大模型推理工作中解码环节的瓶颈。英伟达 CEO 黄仁勋在财报电话会议上表示：“我们将把Groq作为加速器，扩展我们的架构，这与我们当年通过 Mellanox 扩展英伟达架构的方式非常相似。”

其次，这笔交易据传高达200 亿美元的价格，为高速推理架构标出了明确的市场价值。这无疑让众多AI芯片初创公司的CEO及其投资者感到振奋。

自英伟达与Groq的交易公布以来，AI芯片公司喜报频传。Cerebras与OpenAI达成价值 100 亿美元的协议，完成 10 亿美元 H 轮融资，投后估值 230 亿美元，并准备重新提交 IPO 申请。SambaNova 拒绝了英特尔仅 16 亿美元的收购报价，转而进行 3.5 亿美元的 E 轮融资。Etched 以 50 亿美元估值完成 5 亿美元融资。Neurophos 完成 1.1 亿美元 A 轮融资。处于隐秘状态的英国光子AI芯片初创公司 Olix 据传已融资 2.2 亿美元。

AI芯片初创公司 Vsora 董事会主席Sandra Rivera在近期接受采访时表示，英伟达与Groq的交易对其他芯片初创企业来说是重大利好。“通过Groq授权交易，（英伟达）承认了推理领域并非‘一刀切’，事实就是如此，” Rivera说，“你确实需要针对不同的工作负载环节采用不同的架构思路。我认为这是最有力的佐证，证明未来将会部署多样化异构架构。”

Vsora 已开发出一款具备较大 HBM 容量的数据中心推理产品。Rivera表示，她出任董事会主席后的部分职责，将包括支持短期融资活动。“在硅谷，市场氛围非常火热，” Rivera称，“大量资金涌入众多企业，估值大幅攀升，这是因为机遇依然巨大，市场充满乐观情绪。我们仍处于早期阶段，未来数日、数月乃至数年都有巨大增长空间。”

SambaNova CEO Rodrigo Liang的采访也透露出同样的观点，英伟达与Groq的交易被视为所有AI芯片初创公司的胜利。“信号非常明确：传统 GPU 无法在推理市场竞争，英伟达面临的最大风险，是被局限在训练解决方案的细分赛道里。”

Liang表示，除速度外，推理的单机柜功耗与单机柜能效对服务商的成本效益至关重要，而这正是 GPU 架构的另一大弱点。OpenAI 急于使用非 GPU 芯片做推理，这一信号表明推理才是真正的主战场，但在多数情况下，其他架构的商业可行性仍有待验证。

Liang透露，在英伟达与Groq的消息公布前，SambaNova 就已在筹备融资，但市场显然 “对芯片投资出现了新的热情。英伟达的业绩数据依然亮眼，说明需求仍无法满足”。他补充说，最终的推理芯片市场将会出现多家参与者，尽管头部企业与追随者之间仍会存在差距。

D-Matrix CEO Sid Sheth近日在接受采访时表示，英伟达与Groq的交易将低延迟推理推到了聚光灯下。“随着我们深入推理时代，市场不会是一刀切，也不会全是 GPU，” Sheth称，“英伟达与Groq的交易清晰地说明了这一点。一整个低延迟推理赛道正在崛起，而这并非 GPU 专属领域。”

Sheth认为，任何能改善用户体验的技术都会在市场上受到欢迎。“一旦低延迟方案出现，人们就会尝试，新的应用场景随之出现。不知不觉间，英伟达就落后了，然后他们不得不采取行动 —— 被逼无奈。”

行业内解耦推理（将预填充与解码工作负载放在不同类型 GPU 上运行）的趋势将会延续，这一逻辑同样适用于非 GPU 方案：它们可以与 GPU 协同工作，加速特定工作负载片段。“我们看到推理优化面临如此多不同的约束，我们认为单一方案不可能解决所有问题，” Sheth称，“有大模型、小模型，有吞吐量、延迟、成本、能耗，还有可用性。有这么多不同的需求，指望靠单一 GPU 强行解决所有问题，我不认为这行得通。”

他表示，Groq 200 亿美元的估值无疑稳定了市场信心。“世界上不只有一种方案能满足所有人的需求，这对整个行业都是好事，” Sheth说，“这里将会出现其他赢家。”