成本暴跌超90%！2030年大模型推理成本迎大变局

人工智能推理是一种核心的逻辑方法，其本质是帮助机器模仿人类的思维模式，一步步得出结论、做出精准预测、高效解决各类问题，也是AI系统依托现有信息，通过严谨的流程挖掘全新见解、做出科学决策的关键路径。从核心内核来看，人工智能推理的最终目标，就是复刻人脑处理信息、推导结论、判断取舍的能力，让机器不再只是被动执行指令的工具，而是能够主动思考、自主分析的智能载体，这也是研发具备自主决策能力、能够应对复杂场景的智能系统的核心根基，更是人工智能从数据处理走向智能认知的关键突破点。没有完善的推理能力，AI系统只能停留在简单的数据统计和模板匹配层面，无法真正实现智能化、自主化运转，也就难以适配现实世界中纷繁复杂、瞬息万变的应用需求。

据商业和技术洞察公司 Gartner 称，到 2030 年，对具有一万亿个参数的大型语言模型（LLM）进行推理的成本将比 2025 年降低 90% 以上，这将大幅降低 GenAI 提供商的运营成本。

AI 令牌是 GenAI 模型处理的数据单元。在本分析中，一个令牌包含 3.5 字节的数据，约合 4 个字符。Gartner 高级总监分析师 Will Sommer 表示：“这些成本改善将得益于半导体和基础设施效率的提高、模型设计创新、更高的芯片利用率、更多使用推理专用硅以及边缘设备在特定用例中的应用等因素的共同推动。”由于这些趋势，Gartner 预测，到 2030 年，LLM 的成本效益将比 2022 年开发的类似规模的最早模型高出 100 倍。

该预测模型的结果分为两组半导体场景。前沿场景下，模型处理基于尖端芯片的表示；传统混合场景下，模型处理基于可用半导体的代表性混合，并以 Gartner 预测为基准。

由于计算能力较低，“混合” 预测情景中的模型成本比 “前沿” 情景中的模型成本要高得多（见图 1）。

图 1：Gartner GenAI 推理成本情景预测

需要注意的是，令牌成本下降并不会使前沿智能实现普及。

一方面，GenAI 提供商令牌成本的下降并不会完全惠及企业客户；另一方面，前沿智能所需的令牌数量将远超当前主流应用。例如，智能体模型每次任务所需的代币数量是标准 GenAI 聊天机器人的 5 到 30 倍，并且其能执行的任务数量也远超人类的处理范围。

虽然降低令牌单位成本将使 GenAI 具备更先进的功能，但这些进步也将导致令牌需求不成比例地增长。由于代币消耗增长速度超过代币成本下降速度，预计整体推理成本将会增加。

Sommer 表示：“首席产品官（CPO）不应将商品代币的贬值与前沿推理的普及混为一谈。随着商品化智能的成本趋近于零，支持高级推理所需的计算能力和系统仍然稀缺。如今用廉价代币掩盖架构效率低下的 CPO 们，明天将会发现实现智能体规模化遥不可及。”

人工智能推理是各领域智能化升级的核心支撑，既能优化决策质量与效率，也为高阶智能应用落地夯实基础，推动AI技术从理论走向实际应用。在决策层面，推理能力让AI系统能够综合权衡多方因素、预判结果，而非单一判断，这在医疗领域尤为重要，医疗AI可依托推理深度分析患者数据，辅助医生精准诊断、制定合理治疗方案，守护患者健康。在问题解决层面，AI推理能模拟人类思维破解复杂难题，对自动驾驶等领域至关重要，车载AI可凭借推理快速研判多变路况，及时做出安全行驶决策，保障出行安全。

在人机交互方面，AI推理拉近了人与机器的距离，让系统能读懂自然语言、理解用户真实需求，让互动更自然顺畅，大幅提升用户体验，也加深了大众对AI技术的信任。从长远来看，AI推理更是技术创新的核心驱动力，随着推理模型不断优化，机器的智能边界持续拓宽，将催生智能机器人、认知计算等更多前沿应用，为产业升级和社会智能化发展注入持久动力。

未来，能够协调各种模型组合工作负载的平台将更具价值。常规的、高频任务必须路由到更高效的小型、特定领域的语言模型，这些模型在与专门的工作流程相匹配时，性能优于通用解决方案，且成本仅为后者的几分之一。而对前沿模型进行的昂贵推理，必须受到严格限制，仅用于高利润、复杂的推理任务。