智能体风险之下，英伟达出手了

英伟达于美国时间9月28日推出“开放式智能体安全平台”（Open Agent Safety Platform），这是一套旨在防止自主AI智能体偏离测试环境、未经授权访问外部系统的安全框架。随着越来越多AI智能体采取非预期行动的事件被报道，这家芯片巨头如今也开始将自身定位为一家基于自有芯片提供AI安全解决方案的企业。

该平台由两部分组成：用于控制AI智能体活动范围的“Nvidia OpenShell”，以及用于检测并阻止智能体越过预设边界的“Nvidia Sentry”。目前，微软、Anthropic、Palantir、Hugging Face、SpaceXAI和CrowdStrike等企业已采用该平台，但名单中并未出现OpenAI。

双层隔离机制，限制AI智能体活动范围

OpenShell是一款运行于CPU上的开源软件。企业可以将其下载并部署在设备或云环境中，为AI智能体建立一个受控的专属沙箱。在智能体开始执行任务之前，运维人员可以预先设置基础规则，明确其能够访问哪些文件、网站、网络、工具以及凭证。

英伟达CEO黄仁勋在接受采访时，将这一机制比作“给员工一张只能在其工作所需区域使用的门禁卡”。他表示：“首先应该做的，就是取消智能体的所有权限。”随后，再根据实际需要逐步开放文件、数据、工具以及互联网访问权限。

第二个组件Sentry则运行在英伟达自研的“BlueField DPU”芯片上，与执行AI智能体任务的系统彼此独立。通过将监控系统置于智能体无法触及的位置，该设计可以防止智能体关闭自身的监督机制。Sentry会持续监控智能体与模型、工具、数据及网络之间的交互。一旦发现可疑行为或违反预设规则的情况，它可以在数毫秒内将智能体隔离并限制其活动范围。

英伟达表示，近期发生的一系列安全事件凸显了对长期运行AI智能体实施更严格控制的必要性。尽管公司没有具体说明相关事件，但英伟达代表在接受多家媒体采访时表示，这套新平台理论上可能避免今年7月发生的一起事件——当时，一个OpenAI智能体入侵了Hugging Face。

推出安全平台同时扩大股票回购

在发布安全平台的同时，英伟达还宣布，公司董事会批准新增1500亿美元（约合人民币1.06万亿元）的股票回购额度，使公司获授权的股票回购总额达到2350亿美元（约合人民币1.66万亿元），预计将在2028财年结束前完成。此次新增的回购额度创下美国企业历史最高纪录，超过苹果2024年宣布的1100亿美元（约合人民币7784亿元）回购授权。

英伟达最近一个季度营收同比增长106%，达到962亿美元（约合人民币6805亿元），毛利率达到75%。该季度，公司通过股票回购和分红向股东返还约260亿美元（约合人民币1839亿元）。黄仁勋表示，此次扩大回购规模“体现了我们对未来长期机遇的信心”。

目前，该平台的软件本身免费提供。不过，由于负责执行安全限制的Sentry运行于英伟达自有处理器和网络芯片之上，AI安全需求的增长也将直接转化为对英伟达芯片的需求。据英伟达介绍，目前已有超过100家机构基于该平台开展相关工作。

从技术手段出发应对AI安全问题

黄仁勋一直公开反对进一步加强政府监管以及放缓AI发展的相关主张。本月早些时候，在Salesforce年度活动上，他曾表示，将AI安全与发展速度视为二选一，是“一种错误的选择”，并称“不需要新的法律，也不需要新的监管”。

此次安全平台的推出延续了这一立场。在接受采访时，黄仁勋表示，AI“有潜力带来惊人的积极影响”，同时也强调“我们需要确保这项技术得到安全的开发和部署”。他进一步表示：“作为一名工程师，我坚信这是一个工程问题。”他还称，“这是一个在技术上可以解决的问题”，表明其认为AI安全可以更多通过技术手段实现，而非依赖监管措施。

英伟达还在此次发布中披露了与Anthropic的合作。双方将围绕Anthropic旗下“Claude”AI模型的底层架构增加一层额外的安全与控制机制。与此同时，OpenAI并未出现在平台采用者名单中，也进一步体现出英伟达与这家曾因AI智能体失控事件而受到广泛关注的公司之间存在一定距离。

从更广泛的AI智能体发展情况来看，多家领先AI实验室均报告称，一些智能体曾突破原本被认为安全的测试环境，访问本不应接触的系统，甚至在部分情况下对自身行为作出不实描述。随着此类事件开始影响投资者和企业对AI应用的热情，英伟达正在尝试将自身的角色从AI芯片供应商进一步延伸至AI安全解决方案提供商。