高通以近40亿美元收购人工智能软件基础设施初创企业Modular时,外界一度认为这场收购并不匹配。Modular打造了一套硬件无关软件栈,旨在为开发者屏蔽底层芯片差异,实现代码可移植。而高通销售自研专用芯片,代码可移植特性看似并不符合其利益。但Modular联合创始人兼总裁Tim Davis表示,此次收购源于双方拥有共同理念:人工智能算力的未来是异构计算,软件是推动非GPU硬件落地AI推理业务的关键。
Davis称,Modular最初的核心观点之一,就是AI算力必将走向异构化。其余几项判断,AI推理市场规模将大幅增长、通用超级智能同时需要数据中心与边缘硬件、软件层面的短板持续制约行业发展,如今均已成为现实。
Davis在接受专访时表示:“如果把贯穿整个产业生态的这四大判断结合起来,我们开始寻找合作伙伴助力实现企业使命。哪家合作伙伴能够满足全部条件、帮助我们实现全球化布局,同时还能维护面向全球的开放中立平台?”Davis提到,高通拥有覆盖从边缘端到云端庞大的硬件产品布局,因此十分清楚异构芯片运行人工智能业务面临的各类挑战。
Davis表示:“我们充分信任高通团队、高通首席执行官Cristiano Amon以及高通其他管理层。能够获得体量如此庞大的投资方支持,大幅加快全球化推广速度,这一机会十分具有吸引力。”
如果Modular想要打造一套适用于全球数据中心与边缘端全新开放标准,发展速度至关重要。
“高通团队十分支持维护开放中立的技术标准,持续适配各类芯片硬件。”Davis说,“算力走向异构是大势所趋,整个行业想要取得成功,就必须完成这一目标。”
Davis着重指出,Modular将继续作为独立主体运营:原有团队保持不变,企业核心使命也将延续。
他表示:“我们双方达成共识,目标是打造开放开发者生态。想要构建驱动全球人工智能发展的开放开发者生态,就需要一套能够吸引开发者参与的开源基础设施,否则生态无从谈起。”

Modular联合创始人Chris Lattner与Tim Davis(右)(来源:Modular)
Modular两大核心产品分别为Mojo和Max。Mojo是一款硬件无关的内核编程语言;Max是开源模型部署框架,支持异构算力横向扩展。Mojo与Max均为开源项目。
设计Mojo的初衷,是简化原生支持多芯片架构的底层基础设施开发,适配CPU、专用集成电路、异构GPU,以及云端、边缘各类芯片场景。历经四年半研发、稳定可投入商用的Mojo 1.0版本即将正式发布。Davis表示:“出于多重因素考量,全行业都向往支持多芯片架构的未来。目前大量智能体工作流出现CPU算力瓶颈,分布式推理也正在成为主流趋势。”
Davis称,行业商业模式从售卖GPU算力时长转变为按Token计费后,云端管理与任务调度仍存在诸多难题,亟待软件方案解决。“我们期望实现多芯片共存的行业环境,终端使用者无需关心AI Token由哪款硬件生成。” 他说,“四年前,我们提出一个颠覆性观点:开发者并不关心底层硬件。如今这句话比以往任何时候都更贴合现实。整个行业的关注点集中在每秒生成Token数量。”
Max基于Mojo开发,同样原生支持多芯片架构。当前主流推理部署框架大多针对文本场景优化,而Max已经能够支持多模态输入输出。Davis认为,虽然vLLM、SGLang等项目推出了适配图像、视频的分支版本,但这造成了严重的技术碎片化。
Davis介绍,Modular针对Max完成了大量运维管理、可观测性、机器学习运维以及云端优化相关研发工作,Max预计数周内正式全面开放使用。“后续我们将逐步增加模型训练相关能力。” 他表示,“届时我们将拥有一套支持多模态、多芯片架构的完整软件栈,打通训练与推理、边缘端到云端全链路。这就是我们的目标。”
他表示,迄今为止,软件基础设施短板一直阻碍非GPU硬件大规模商用。新兴云服务商大多依靠债务融资搭建GPU算力集群。英伟达、AMD硬件拥有清晰的折旧周期,资产具备流通属性,可以转售,融资渠道通畅。但目前各类替代芯片几乎缺少对应的融资方案。新兴云服务商只能通过股权融资建设算力集群,成本极高,同时算力资产流动性很差。
Davis解释:“如果拥有一套多芯片兼容软件层,提升算力资产流通性,全球市场就会意识到:现有算力体系中,单一厂商绑定的软件定价过高;底层算力硬件本身并未发生改变。算力资产流通性提升能够重构行业金融逻辑,助力更多芯片落地云服务商,这点意义重大。”
Davis表示,高通已经意识到软件层面问题的严重性,明白行业需要统一平台降低开发者负担,同时清楚开放生态是实现目标的核心。
目前Modular客户涵盖技术实力领先的大型企业、生成式人工智能初创公司、新兴云服务商以及Token算力工厂。“我们的客户遍布软件栈各个层级。”Davis说道,“既有需要完成芯片适配调试的硬件厂商;也有采购硬件、部署在算力工厂,以此获取更高利润的新兴云服务商;还有前沿模型实验室,他们希望通过API向企业客户提供服务;同时也包括一批不在意Token生成硬件来源的大型企业。”
随着前沿模型实验室愈发重视总体拥有成本(TCO),他们对多芯片架构的接受度持续提升。“前沿实验室希望借助我们的开源基础设施实现多芯片算力多元化,这对他们业务十分有利。企业能够联动多方厂商,在软件栈各个层级实现业务扩容。与此同时,他们也将参与共建我们打造的开放生态,不仅帮助优化我们的基础设施,优化成果也将惠及所有参与者。”
通过走访多家芯片企业,我们了解到,不少厂商利用人工智能助手、智能体扩充甚至替换原有编译器部分模块。开发适配全新硬件、高性能编译器是芯片企业面临的巨大门槛。众多厂商开始在软件栈引入AI代码生成工具:例如搭建基于Claude的智能体,录入自家硬件参数,依靠智能体编写、转换底层代码。
对此Davis态度更为谨慎。他表示编译器运行结果必须具备确定性,但人工智能输出本身几乎无法保证稳定结果,并且可解释性研究依旧存在大量空白。“AI代码生成前景广阔,但我将其视作倒金字塔结构:非常适合搭建原型、开发部分应用层程序;越靠近底层,对运行确定性的要求越高。”
每家企业都需要权衡,代码体系中能够容忍多大程度的不确定性。Modular合作的部分机构,例如金融企业,完全无法接受任何不确定性。
Davis提出疑问:“归根结底,你是否愿意把面向商用客户、正式投产业务,寄托于人工智能随性生成的代码?”
同时Davis指出,仅仅写出可以运行的计算内核远远不够,性能必须达到甚至超越CUDA。“算力可移植最终落脚点依旧是总体拥有成本。” 他说,“AI能够自动生成内核固然令人振奋,但对于当下绝大多数替代芯片而言,代码性能需要逼近行业顶尖水准,总体拥有成本优势才能真正体现。”
Davis认为诸多现实因素决定,AI代码生成现阶段仍需要人工介入。“我相信依然有大量精通底层软件栈的专业人才。在此之上,还需要掌握推测解码等前沿技术的专家;这一层面同样具备极高技术门槛。再往上,则依靠云端基础设施完成整体调度。这是一个覆盖全软件栈的系统性难题。”
Davis表示,商用软件栈现存各类局限足以证明,AI生成内核现阶段尚不适合投入正式生产。未来行业需要一套基础底层架构作为承载,也就是Mojo与Max。“一旦底层拥有统一编程模型,能够调用芯片原生底层指令集,各类AI框架、推理部署工具开箱即用。目前市面上不存在同类方案,无法单纯依靠AI自动编码实现。搭建这套体系并且完成全链路整合,是一项难度极高的系统编程工程。”
Modular团队致力于推动全球产业接受异构算力是未来趋势。“回望行业发展历史,异构算力时代终将到来,这是必然走向。”Davis说,“但实现路径尚无定论。我们坚信,如果能够帮助各家企业减少软件层面负担、加速转型,将为整个行业创造巨大价值。”
本文转自媒体报道或网络平台,系作者个人立场或观点。我方转载仅为分享,不代表我方赞成或认同。若来源标注错误或侵犯了您的合法权益,请及时联系客服,我们作为中立的平台服务者将及时更正、删除或依法处理。
