比英伟达GPU快10倍？d-Matrix推理卡正式量产

硅谷初创公司d-Matrix宣布：自研Corsair推理加速平台启动批量生产，正式发货。 d-Matrix 表示，Corsair运行AI推理任务，速度最高可达英伟达独立GPU的10倍，功耗只有后者的五分之一。

比参数更值得琢磨的，是它选的进攻路线。

d-Matrix成立于2019年，从一开始就没打算正面造一块"更快的GPU"，而是盯上了另一个东西：内存。

推理这门生意，瓶颈往往不在算力，而在数据搬运——模型权重在内存和计算单元之间来回奔波，芯片再快，也得等数据到场。d-Matrix的解法是釜底抽薪：让计算发生在内存里。这套独创的数字内存计算架构（DIMC™），把算力与内存深度融合在片内存算一体化模组中。

效果体现在一个数字上：其搭载的高性能内存（Performance Memory）带宽高达150 TB/s，比当前主流HBM高出一个数量级。在性能模式下，生成式AI模型可以完全载入高性能内存运行，交互时延较采用HBM的同类方案最高缩短90%——对话式AI的体验，本质上就是这几百毫秒的差距。

换一个角度看，这不是在英伟达的赛道上跑得更快，而是换了一条赛道。

推理市场正在分裂成两种生意：一种是在线交互，用户坐在屏幕前等回复，拼的是速度；另一种是离线批处理，没人盯着进度条，拼的是吞吐和容量。

Corsair给出的答案是两种内存、两种模式。性能模式靠150 TB/s的高性能内存抢速度；容量模式则依托最高256GB的片外容量型内存（Capacity Memory），承载超大参数模型、超长上下文和大批量数据处理。按d-Matrix的说法，一台搭载8张加速卡的服务器，可以跑万亿参数及以上的大模型。

单张 PCIe 加速卡搭载 4GB 高性能内存（Performance Memory），内存带宽达 300 TB/s；双卡组合模式下，MXINT8 精度峰值算力为 4800 TFLOPs，MXINT4 精度峰值算力可达 19200 TFLOPs。

Corsair是业内首批原生支持区块浮点格式的产品，这种格式兼具整数运算的高能效与浮点运算的宽动态范围，而它如今已成为开放计算项目（OCP）的标准微缩放格式（MX）。

d-Matrix押注的不是一个私有方案，而是一条全行业可能都要走的路。在此之上，产品还原生支持稀疏计算、实时量化、在线解压缩——每一项都在为推理场景拧干水分。

单张Corsair采用业界标准的全高全长PCIe卡形态，内置两颗ASIC封装芯片，通过PCIe Gen5背对背互联；每颗ASIC包含四颗芯粒，芯粒之间基于DMX Link™实现全互联拓扑。两张加速卡合计四颗ASIC、十六颗芯粒，再借助DMX Bridge™搭建起全域互联架构——这套拓扑，正是高速token生成的关键。

标准PCIe形态意味着什么？意味着客户不用改机房、不用换服务器，插卡即用。降低替换成本，本身就是进攻策略的一部分。

资本已经投了票。d-Matrix完成2.75亿美元C轮融资，投资方包括微软旗下风投部门M12和新加坡主权基金淡马锡。创始人兼CEO Sid Sheth在2025年Hot Chips大会上首次展示这项底层技术，不到一年，超大规模云厂商与新兴云服务商的订单激增，产品在2026年6月迈入量产。