国产GPU过了H200这道槛

2026年1月，壁仞科技、天数智芯先后登陆港交所；往前一个月，摩尔线程、沐曦股份刚刚在科创板挂牌；再往后半年，燧原科技IPO过会。国产GPU“四小龙”在半年多时间里齐聚资本市场。资本化完成之后，行业面前的下一个问题随之而来：拿什么证明产品站得住？

天数智芯架构路线图

10月28日，天数智芯在上海举办“从模型到世界”2026媒体开放日，天垓300首次面向媒体开放实机演示，基于天垓300的AFD分离方案、IXL144超节点方案，与天数智算软件栈、彤央端侧算力终端同台亮相。比演示本身更受关注的是一组第三方实测数据：第三方权威机构今年7月针对四大主流模型、三类场景开展测试，在大模型典型的PD分离部署下，天垓300折算单卡整体端到端吞吐达到H200的1.05倍，这是国内首个实测性能达到H200水平的通用GPU。

H200是英伟达当前主力的高端推理卡，也是大模型推理和复杂计算领域公认的高水平标杆。天垓300在第三方实测中端到端摸平这张标杆卡，标志着一个更深层的变化：国产通用GPU开始具备在复杂AI任务和高算力市场中快速发展的实力。行业考核国产芯片的维度，正在从“能不能用”转向比拼实际产出、运行效率和经济价值。

天数智芯将这一阶段的标准概括为高质量算力——“高效率、可预期、可持续”——相同投入能产出多少有效结果，长时间运行能否稳定，面对不同模型、业务和部署方式能否持续发挥作用。在天数智芯看来，云端生产智能，软件加速适配与优化，端侧让智能进入更多现场，形成让高质量算力持续生长的增强回路。

过去国产芯片发布，讲的是峰值算力，是纸面参数与国际旗舰的对比。这轮对标换了一个口径：在特定模型、特定部署条件下，整条推理链路实际能输出多少。第三方权威机构的测试覆盖大模型典型的PD分离部署，天数智芯性能实验室的实测则进一步下探到具体业务场景：在64K长上下文下，天垓300的Attention性能为H200的1.05倍；GLM-5.3模型64K规模下，保障同等用户体验的同时，MoE吞吐为H200的1.15倍；8K至128K长上下文场景下Agent首字延迟较H200降低约10%—30%；多模态生成推理吞吐相较H200提升约2%—5%；在搜广推等在线业务中，推荐推理吞吐提升21%、轻量计算时延降低26%。活动现场开放了天垓300实机演示，接受与H200在GLM5.3等大语言模型、文生图、文生视频场景的对比测试。

这些指标各自对应着用户能够感知的体验。长上下文处理关系到长文档分析和复杂Agent能否高效运行；MoE吞吐影响同等服务要求下系统承接请求的能力；首字延迟则直接关系到用户发出请求后的等待时间。此次对标说明天垓300已在多类关键负载上进入与国际主流高水平GPU直接比较的区间。

天垓300同样胜任强化学习训练，据条件性工程估算，以1024张卡对已有预训练基座开展一次强化学习，在40B激活参数的中心情景下，约26天可完成约1T总参数MoE模型的500亿生成Token强化学习任务。

训练方面，在基于Qwen3-32B模型的8卡整机FP8精度训练演示中，天垓300每卡有效吞吐达到H100的1.33倍。目前，强化学习已成为OpenAI、Google、Meta、xAI以及DeepSeek、Qwen、Minimax、Kimi等国内外主力模型公开采用的核心后训练路线。SemiAnalysis在1月的报告中将RL规模化列为AI能力突破的核心路径，算力的消耗重心正从预训练转向后训练与测试时扩展。天垓300同样胜任强化学习训练，据条件性工程估算，以1024张卡对已有预训练基座开展一次强化学习，在40B激活参数的中心情景下，约26天可完成约1T总参数MoE模型的500亿生成Token强化学习任务。

实测指标的背后，是一个更宏观的产业变化：算力正在被当作工业品来经营。行业公开数据显示，国内日均Token调用量较2024年初已增长上千倍。中国工业互联网研究院发布的《Token驱动智能经济研究报告（2026）》进一步提出，智算中心正由传统算力载体升级为全天候连续运行的Token工厂，核心竞争力从单纯追求总算力规模，转向单位能耗Token产出、硬件资源利用率、服务运行可靠性。Gartner也提出，AI工厂衡量生产力的基本度量衡不仅依靠传统的服务器利用率，还依靠Token经济性。Token工厂由此成为算力规模化落地的热门形态，也是高质量算力三要素的集中检验场。各项表现显示，天垓300高度满足Token工厂对算力的各项实际要求。

首先是高效率。电力、机房和固定运维等支出难以随意压缩，单位Token成本很大程度上取决于设备投入和有效吞吐。在前述第三方测试条件下，天垓300折算单卡端到端吞吐达到H200的1.05倍，为单位时间内生产更多有效Token提供了性能基础。

其次是可预期。Token工厂不能只在短时测试中跑得快，还要在长时间满负荷运行时保持稳定。天垓300满负荷运行的步时波动为0.43%，低于对比Hopper方案的0.76%，长时间高负载不掉链子，直接保障利用率与可用率。

最后是可持续。天垓300通用架构原生支持CUDA语义，主流框架均已适配，并提供从加速卡、服务器到超节点的不同部署形态，面向多种模型与业务需求。

对于已经采购了其他厂商加速卡的智算中心，天垓300同时提供开放、可组合的异构计算平台解决方案。以通用GPU为底座，天垓300支持混合训练、PD分离与AFD分离等多种部署形态，可与其他厂商的加速卡、专用芯片协同。在这个底座上，部署分工还在继续细化：从训练推理混跑，到Prefill与Decode分离成为高并发推理的主流形态，再到把Attention、FFN、Decode拆到更细的粒度上分别调度。天垓300在PD分离之外，又往前走了一步——AFD分离。整条推理链路上，承担Prefill全流程计算与解码阶段Attention的仍然是天垓300，通用GPU的底座没有变；变化在于分工的粒度，FFN专家网络被单独切出，可以交给合作厂商的XPU执行，两类芯片在统一调度下异构协同。实测显示，该方案下Decoding推理延迟可降低60%，且已实际跑通，是国内第一个基于GPU+XPU的异构部署AFD分离方案。

对客户而言，这个方案的价值在于资产利用，不必推倒重建，就能把既有XPU算力接入同一条推理链路，与天垓300分工协作。“未来的AI算力系统，不一定由一种芯片包打天下。”天数智芯AI与加速计算负责人单天逸表示，“关键是如何把它们高效组织起来，让整个系统发挥更大的价值。我们希望通过开放的异构计算能力，让客户充分利用已有算力资产，以更灵活的方式构建适合自身业务的计算系统。”

组织好高质量算力后，需要持续向千行百业的场景落地。天数智芯将通用算力延伸至科学智算与物理AI等前沿领域，加速科学发现和产业应用。天垓300全面支持Boltz-2、OpenFold3、Protenix等模型及Newton、Warp、ALCHEMI等框架，覆盖生命科学、物理AI、化学与材料四大领域近百个典型场景，涵盖蛋白结构预测、药物筛选、机器人仿真、分子动力学、材料结构优化等关键任务。物理AI尤其体现出通用计算的新价值。机器人要进入真实世界，往往需要先在遵循物理规律的仿真环境里反复试错，学习动作并验证策略。天垓300的云端仿真和计算能力，让这种学习和验证更充分。

在规模化交付侧，天垓300已形成从加速卡、一机8卡服务器到超节点的完整系统方案。天垓300 IXL144超节点在单个标准机柜内集成144颗GPU、聚合约10.1TB显存，是目前业界密度最高的单机柜GPU超节点，据测算，其每百万有效Token成本较国际主流方案可降低约40%。其新一代P2P互联引擎面向Scale-up和Scale-out，目标是将域内单次传输延迟由3—5微秒降至1微秒；支持统一内存语义编程；同时支持大EP，将专家权重分散到更多核心。该方案已在工博会公开亮相，面向不同算力规模与机房条件的其他超节点方案也将陆续推出。

硬件过了门槛，另一道门槛在软件。国产芯片长期以来最被客户诟病的问题，不在跑分，而在迁移：新模型不断出现，部署、适配和性能调优往往需要经验丰富的工程师投入大量时间。如果这些环节仍然复杂，硬件性能就很难及时转化为业务价值。天数智芯此次展示的软件栈，让AI不仅作为计算任务被运行，也参与AI系统自身的开发与优化。在模型迭代以周为单位的今天，适配速度就是芯片的实际可用性。

天数智芯此次展示的解法，是让AI参与AI系统自身的开发。天数智芯副总裁石加圣将GPGPU软件栈的升级方向概括为三个层次：易于使用、易于优化、易于开发。

易于使用，是把环境安装、配置检查与模型部署组织为智能体可调用的工具与技能，由AI协助执行并检查结果，减少开发者反复查阅文档、手动配置和排查问题的负担。在模型PD分离部署实测中，环境准备与服务部署整体用时由1小时缩短至10分钟，人工操作由数十步减少至1步，助力开发者更便捷地使用先进推理架构。

易于优化，是结合自研性能分析工具与调优经验，让AI依据真实运行数据定位瓶颈、提出优化方案，并通过测试验证效果。根据某大模型调优任务实测，工作周期由7天缩短至2小时内；在相同硬件、模型和精度要求下，相关任务运行性能较优化前接近翻倍。开发者能够更快开展优化、获得反馈，减少对厂商技术支持的依赖。

易于开发，天数智芯作为首家深度接入FlyDSL的国产GPGPU厂商，通过Agent与FlyDSL协同，让AI参与代码生成、编译、测试和性能优化。开发者明确目标与约束，AI协助生成或修改候选实现，再根据正确性检查和性能测试结果持续调整，最终完成自主开发、验证与迭代，形成从目标提出到结果验收的工程闭环。在某主流模型适配与调优实测中，过去10人天完成的工作，现在1人在小时级内就能完成，编译速度提升90%以上，理想状态可用1%的编译时间实现99%的运行性能，为更快支持新模型、尝试更多实现方案创造条件。

“Agentic AI让一位工程师的经验，能够持续服务千千万万开发者。”石加圣表示，天数智芯将GPGPU工程师在模型适配、性能调优中积累的方法沉淀为可调用的工具与技能，让模型和应用开发者能够在自身工作流中复用专家经验，更快获得反馈、自主完成优化。GPGPU工程师则能将更多精力投入复杂性能问题的解决，并持续将新的工程积累提供给开发者。

云端之外，算力需求正在向现场下沉。物理世界的数据量持续增长，对感知、规划与执行提出毫秒级响应要求，合同、科研等涉及数据安全的任务要求算力必须“贴着数据跑”，业务需求让算力必须分层。与此同时，小参数量模型能力提升，让更多任务具备边端部署条件，技术演进使算力可以分层。客户对长期使用成本的关注，要求算力投入更精准：简单任务不必都上云，复杂任务也不宜一律下沉，分层部署成为理性选择。

业务上“必须”，技术上“可以”，经济上“值得”，算力分层由此成为现实选择：大规模训练与复杂复判留在云端，要求实时响应、涉及数据安全、需要现场闭环的任务，放在端侧。

“云端GPU厂商做端侧，不是把芯片做小，而是把能力下沉。”天数智芯彤央产品市场负责人宋远盈表示。天数智芯在云侧大规模训练与推理中积累的模型压缩、量化、蒸馏和软硬协同能力，连同通用GPU架构、编译器、算子库和性能工具，被一起带到边端。模型因此可以“生在云、长在边”：云端训练、边端部署，需要时再由云端复判，模型能力与精度保持衔接。在客户现场积累的高负载交付经验，也为工业应用、具身智能等高度要求稳定性的场景交付提供能力基础。

彤央以一套生态、两种形态、五款产品覆盖从客户自主集成到即用型部署的需求；端云接续的技术路线，“把云的能力折叠进方寸之间”，也让客户的边端投入具备长期延续性。其中，彤央TY1200端侧算力终端标称300 TOPS稠密算力，而非行业惯用的稀疏峰值；在Qwen3.8-27B、Qwen3.6-35B-A3B等LLM模型实测中，TY1200性能达到Thor T5000的1.2倍。以实测稠密算力超越标称算力更高的芯片，端侧的有效产出同样不被标称算力定义。

在本地部署场景，TY1200让原本必须上云的任务在数据端内闭环。合同审核、投资BP分析等对数据安全高度敏感的工作，可基于本地部署的大模型离线处理，安全的同时，也可节省算力支出；视频生成这类高算力任务也在本地跑通——基于MiniMax H3开源视频模型，TY1200平均6分钟生成1056×608分辨率、时长5秒的视频，1376×768分辨率下平均用时11分钟，全程在本地进行，不产生任何云端调用费用。它还能流畅运行推理应用，并承担小模型的本地训练。

在物理AI场景，TY1200成为具身智能设备的大脑。这个大脑不仅可以内置，还可“外挂”。TY1200首次在国产端侧产品上实现基于MuJoCo-Warp的GPU加速物理仿真，机器人动作学习所需的大规模并行仿真可在本地终端完成。活动现场，MicroDuck动作演示呈现“本地仿真—策略训练—动作验证”的完整链路；搭载TY1000算力模组的机器狗在本地完成人脸识别与跟随主人，形成“感知—决策—行动”闭环。世界模型等物理AI负载同样在本地运行，在Cosmos-R2-2B和Cosmos-R2-8B测试中，TY1200的实测性能分别达到Thor T5000的158%和180%；

TY1200此前已获2026工博会CIIF国芯展创新成果奖。活动现场，天数智芯还预告下一代端侧产品彤央TY2000，标称算力将达600T，把云端能力下沉的边界再向前推进一步。

云端高效生产智能，软件加速进化，端侧拓宽现实应用、连接物理世界，三端协同构成高质量算力的“增强回路”，让高效率、可预期、可持续在循环中复利式积累。

产品层面的复利，最终要回答产业层面的命题。算力是发展新质生产力的关键底座，中共中央、国务院《关于发展新质生产力的意见》提出，全面实施“人工智能+”行动、强化算力算法数据高效供给，加快人形机器人等新一代智能终端的场景应用。从云端天垓300、天数智算软件栈，到端侧彤央算力终端，天数智芯以贯通云边端的产品体系，把高质量算力落实为可实测、可复现、可交付的有效产出，为“人工智能+”在千行百业的规模落地，提供高质量算力支撑。