DeepX二代边缘AI芯片流片，PIM加持性能提升6.7倍

韩国边缘AI芯片初创企业DeepX宣布，第二代AI加速器已经流片，该芯片可搭载三星定制存内计算（PIM）技术。这款DX-M2面向机器人、无人机以及其他边缘设备，用于部署生成式AI，可在功耗低于5瓦的条件下运行最高千亿参数的大模型。

DeepX的第一代芯片DX-M1现已量产，主打视觉应用。刚完成流片的DX-M2，旨在让本地AI在供电、散热条件受限的设备上落地可用。根据模型不同，DX-M2可运行200亿至1000亿参数规模模型（有效参数约30亿至200亿），推理速度为每秒10至30个词元，功耗和DX-M1一样，仅5瓦。

DeepX创始人兼CEO Lokwon Kim在接受采访时表示：“M1和M2之间最核心的变化是内存带宽。”内存带宽从50GB/s提升至150GB/s，翻了三倍，同时还有多项能效优化。DeepX称，通过架构优化，这款NPU的能效提升一倍；再叠加2纳米工艺，能效再度翻倍，最高算力可达80 TOPS。

Kim说：“这点很关键，5瓦功耗意味着我们的芯片可以用在各种场景，无人机或是其他电池供电设备都可以。我们的目标是让高性能AI能够部署在各类终端设备上。”DX-M2支持大模型混合专家架构（MoE），同时兼容推测解码、TurboQuant等新技术。

存内计算（PIM）

绝大多数AI推理任务都会受限于权重在内存与计算单元之间的数据搬运，尤其是通用矩阵向量乘法（GEMV），该运算需要频繁随机访问内存，拖慢计算速度。存储厂商推出PIM方案，把GEMV这类内存密集型运算直接放在存储芯片内部完成。在内存中执行运算，可以有效提升等效内存带宽，减少耗时的内存访问。

PIM即将成为JEDEC的LPDDR6标准。而DeepX已经和三星合作，将DX-M2与三星的LPDDR5x-PIM方案集成。Kim介绍：“我们和三星存储团队合作开发这项技术已有一年半，三星已经自研了适配LPDDR5x的定制PIM。我们已经拿到LPDDR5x-PIM样片，正在内部测试运算逻辑与性能。”

DeepX的仿真结果显示，把Llama3.1-8B模型的GEMV运算卸载到LPDDR5x-PIM中运行，相比DX-M2单独运行，每秒词元输出性能提升6.7倍。Kim说：“搭载LPDDR5x-PIM的DX-M2已经接近最优方案。不过下一代DX-M3会支持标准LPDDR6 PIM，届时我们可以释放完整理论性能，性能可以再提升5至8倍。”

Kim同时说明，性能提升不是无代价的：实现6.7倍性能，整体功耗会提升至原来的2.7倍。即便如此，DeepX认为，在维持和非PIM模式相同功耗上限的前提下，依然可以实现2倍的性能提升。

Kim提到，编译器需要大量人工适配才能支持该运行模式。目前DeepX已经基于PIM版LPDDR5x仿真，跑通了原型编译器。“我们现在正在制作硬件模块，用来在真实环境中验证，所以编译器还没有全部完成，但团队正在全力推进。”

核心市场

DX-M2瞄准多个重点赛道。DeepX正在和中国台湾ODM厂商合作，探索AI PC（笔记本、工作站）的落地场景。DeepX战略营销总监Tim Park表示：很多机器人厂商目前还在用英伟达Thor这类GPU做原型，但他们需要更低功耗、更高板载算力；车企则需要低功耗芯片，在车内运行AI智能体。在物联网领域，DeepX已经和三星合作开发新一代智能网关。公司同时加入AWS物联网生态，借助Greengrass实现模型远程更新。

Park表示，机器人客户大多先用GPU做开发，但受散热和功耗限制，不得不寻找替代方案。DeepX正在推动客户从英伟达Isaac机器人平台迁移到自研的Newton平台。“客户关心我们的硬件，也关心怎么从英伟达迁移过来。答案就是：客户只需要修改API，调用Newton而非Isaac，就能在DeepX平台上跑完全一致的流水线。”

Park称，目前已有17个配套库完成适配。团队已经演示了基于DX-M1的机器人，复用原本用于英伟达Jetson的源代码，只替换为DeepX库。

Kim说：“客户从英伟达方案切换到DeepX之后，电池续航可以提升20倍，成本更低。而且切换耗时不到一秒，只需要把API名称从Isaac改成Newton即可。”

一套面向DeepX硬件的完整机器人软件栈目前还在开发中。DeepX正在对接美国、中国、越南、韩国的机器人客户，现代汽车集团机器人实验室已经在其机器人平台上使用DX-M1。

与此同时，公司持续拓展生态，对接中国台湾ODM厂商、各细分赛道龙头，近期还和英特尔达成合作。DeepX和英特尔合作，将OpenVINO接入DeepX SDK，触达英特尔x86客户群体。DX-M1可以和英特尔酷睿Ultra CPU内置NPU形成互补，也能为不带NPU的英特尔边缘CPU分担或者承接全部AI算力负载。

Kim透露，公司近期和AMD洽谈，基于DeepX加速器与AMD Kria开发板联合打造机器人平台，优先面向韩国本土生态。此外，DeepX也在对接树莓派、百度飞桨等异构生态。

商业化进展

Kim表示，DX-M1目前已经拿到超过100份订单，覆盖全球各大市场，应用包括无人机、机器人、智慧工厂、安防摄像头、航空航天、医疗、物联网等实体AI场景，DX-M1现已量产。

Kim说，此前实体AI最活跃的市场是中国，今年日本成为新的主力市场，当地企业对人形机器人落地意愿很强。“日本十多家头部企业都在评估我们的芯片，反馈非常积极。美国市场同样表现不错，多家大厂给出了很好的反馈。”

DeepX也在韩国、越南、新加坡推进智慧城市项目。Park表示：“我们长期判断，随着能效持续提升，AI算力会走向分布式。PC、智能手机时代证明了算力可以渗透到海量终端。AI会走出自己的路线，但当应用需要实时读取传感器数据、或者在无持续联网条件下工作时，本地推理的价值十分明确。”

Park认为边缘AI是芯片巨大的机会，尤其当下新建数据中心的供电资源十分紧张。Kim的观点是：就像如今CPU市场只有四分之一的算力部署在数据中心，未来5到10年，AI处理器市场也会向边缘端转移。他补充，现在很多AI数据中心项目延期，算力缺口不能只靠加码投资解决。仅5瓦功耗的AI芯片，可以把AI算力迁移到终端。“如果终端设备可以部署最高千亿参数的模型，数据中心的AI流量可以降低80% 以上。也就是说，在不新增AI服务器的前提下，算力基础设施规模可以扩大5倍。这就是我们的愿景。”

DeepX的第三代产品DX-M3规划在2028年推出，采用芯粒架构，搭配LPDDR6-PIM，目标算力1 ePOPS（INT8），面向车企与人形机器人厂商，这类场景对多芯粒方案有需求。DX-M2预计2027年3月出样，2027年秋季量产。