智能体落地边缘芯片，破解嵌入式软件开发痛点

Ambarella客户增长负责人Muneyb Minhazuddin在接受采访时表示，Ambarella正借助智能体AI封装简化软件开发套件，帮助独立软件开发商（ISV）将应用迁移至Ambarella硬件的周期从过去数月缩短至短短数天。Minhazuddin称：“传统芯片厂商吸引开发者的方式无非开放应用程序接口、在GitHub开源、搭建开发者社区、开展技术培训，投入大量人力搭建配套开发环境。这种模式耗费巨量资源、人力、资金与时间。”

他介绍，Ambarella在自有API与软件开发套件外层搭建了一层智能交互层，开发者可直接对接该层工具。依托这套智能交互层，独立软件开发商如今仅需几天就能完成代码向Ambarella硬件的移植，而此前该流程往往耗时数月。“起初我们以为是合作方工程师能力出众、或是产品技术本身优势，”他说道，“但后续多家开发商合作都实现了同等效果，前后已有六起成功案例，这套方案确实切实可行。”

相较于数据中心级大型AI应用，嵌入式软件逻辑简单得多，无需超大模型完成数据分析。“好消息是，边缘端应用功能高度固定，”Muneyb Minhazuddin表示，“应用场景范围有限。我们可以把标准化功能封装为智能体能力，再通过智能交互层对接调度引擎，快速搭建完整应用。”

他认为，嵌入式软件开发或将率先全面落地智能体AI技术。“大型数据中心与云端大模型在使用模型上下文协议（MCP）、智能体AI时仍存在诸多痛点，核心原因是业务排列组合数量过于庞大，”他解释道，“而边缘场景业务边界清晰，智能体AI落地效果更好。”

Minhazuddin透露，目前已有医疗、零售、机器人领域多家独立软件开发商接入Ambarella硬件平台，部分厂商借助智能体工具仅三天就完成适配；而真正的考验在于，能否依托这套高效开发流程，为终端客户快速交付可落地的概念验证系统。

“过去四个月，我们的软件合作伙伴已将开发套件落地美国20家大型连锁零售、连锁咖啡店以及汽车穿梭取餐门店。”零售门店通常会部署三台独立设备：一台网络网关设备，一台承载收银系统与门店应用，第三台专门用于摄像头画面AI推理与数据分析。“行业出现一个很有价值的优化方向：能否将三台设备合而为一？”Minhazuddin说道，“在同一台设备中集成网络功能、收银业务、应用系统与AI算力。如果三套负载能统一部署在一套硬件内，企业资本开支将大幅降低。”

零售客户正在评估Ambarella SoC用于多路安防摄像头汇总分析及各类AI运算。他提到，单台设备动辄数千美元，对于拥有数万家门店的连锁品牌而言，多设备整合能省下巨额成本。

边缘端本地运行智能体

长远来看，智能体最终需要直接在边缘设备本地运行。绝大多数常规AI应用以CPU作为主机，算力主要依靠GPU或专用加速器；但智能体AI需要CPU专门承载智能体调度引擎。“智能体AI正在快速改变CPU与加速单元的算力配比需求，”Minhazuddin表示，“我们的SoC原生搭载Arm CPU内核，可以灵活调配CPU与片上加速器资源，顺畅运行各类智能体任务。”

Ambarella是否会调整硬件中CPU与加速单元的配比，适配智能体类应用？Muneyb Minhazuddin回应：“新一代产品或许会做出调整，这也契合行业整体发展趋势。”

智能体既可部署在边缘网关设备内，也能直接运行在摄像头端，或两端同时部署。Ambarella边缘网关搭载单颗N1-655芯片，官方已完成20B混合专家模型推理演示，目前35B参数模型也已实现稳定运行。

“单颗N1-655芯片足以在可控范围内完成本地数据处理、AI推理、智能体调度等全部任务，摄像头搭配小型网关即可舍弃大型机架服务器。”

摄像头与边缘网关之间的算力分配由客户按需自定义。“我们会持续增强摄像头本地算力，”他补充道，“多路视频流统一汇总处理后，无需部署机架式大型服务器，依靠小型终端设备就能完成业务，这是行业主流发展路线。”

边缘与云端协同

Minhazuddin将边缘AI市场划分为两大发展方向：云端下沉至边缘、边缘上云。

云端下沉边缘赛道，数据中心厂商依托多机架设备，将云端推理能力下沉至本地机房，硬件仍搭载超大模型、高端算力，软件生态与传统企业软件相近。

边缘上云赛道细分两个垂直领域，各自拥有专属行业软件生态，Ambarella均有对应布局。一是实体物理AI传统物联网仅采集、解析传感器数据，决策工作依赖人工；新一代实体物理AI融合多模态传感器信息，高度还原实体设备运行状态，实现高自主化运行。“高自主化意味着设备不只是感知采集数据，还要本地自主决策并直接执行动作，做到完全独立运行。”他举例，“如果机械臂控制指令需要回传云端计算，响应存在延迟，这类场景必须依靠本地全自主AI。”

二是边缘汇聚网关网关设备汇总多路、多类型传感器数据，并行运行多套AI模型，数据汇总节点无需依赖云端，也不用大型服务器支撑。

N1-655芯片面向上述两类边缘上云场景打造；多芯片集群方案落地仍需时日。“架构层面还有大量研发工作待完成，”他说，“我们单颗SoC能效表现优异，但多芯片集群需要配套HBM、PCIe等高速互联。虽然可以把多颗SoC搭载在M.2板卡上联调，但算不上标准多芯片集群架构。”

AI算力负载会持续在边缘与云端之间动态调度。AI技术最初诞生于数据中心，随后向云端延伸，如今落地边缘终端。“行业最终会达到算力均衡状态：部分任务适配云端、部分适合数据中心、部分本地边缘运行，各节点互联互通。但目前行业尚未抵达这个平衡点。”