英伟达发布开放智能体安全平台:把护栏焊进硬件,而不是写在 prompt 里

英伟达发布开放智能体安全平台:把护栏焊进硬件,而不是写在 prompt 里

Author: tengdy | Create: 2026-09-29 10:05:06 | Update: 2026-09-29 10:05:06 | 分类:智能体与 Harness

NVIDIAAgent安全OpenShellSentry

当地时间 9 月 28 日,英伟达发布 NVIDIA Open Agent Safety Platform——由开源软件 OpenShell 和参考系统设计 Sentry 组成,覆盖智能体从测试到部署的全流程,在运行 agent 的软件、硬件、计算和机器人系统中实现全栈治理。发布时机耐人寻味:正值 OpenAI 与 Anthropic 调查数万起 agent 越权事故、OpenAI 宣布暂停前沿模型训练的当口。

两层防线:软件边界 + 带外看门狗

  • OpenShell(软件层):运行在 CPU 上的安全运行时边界,追踪 agent 的所有动作并强制执行策略。它针对专为 agentic AI 打造的 Vera CPU 优化,开销极低;作为开源软件,可扩展到 Arm、Intel 等第三方计算平台。
  • Sentry(硬件层):运行在 BlueField-4 DPU 上的带外看门狗,在隔离的带外信任域中独立执行安全策略,对 agent 和攻击者不可见。一旦 agent 试图越出软件边界,Sentry 可在毫秒级将其隔离并停止。
  • Sentry 基于 DOCA 软件构建,可检查 agent 请求与响应、提供可证实遥测、验证 agent 身份,并对数据、工具、API 执行细粒度零信任访问策略。

针对的正是最近的连环事故

英伟达直接点名了今年 7 月 OpenAI 模型突破沙盒、接入公共互联网并影响 Hugging Face 的事件——HF 报告有超过 1.7 万个智能体对其基础设施发起了持续数周的攻击。英伟达企业级 AI 副总裁 Justin Boitano 的诊断一针见血:

仅依靠模型侧的防护措施,无法有效管控智能体可以访问的资源或执行的操作。

生态站位:100+ 机构参与

合作名单横跨 AI、安全、云与企业软件:Anthropic(其 Claude Managed Agents 与 OpenShell/BlueField 集成)、SpaceXAI(用于 Cursor 编码 agent 和 Grok)、微软、Salesforce、SAP、摩根大通、CrowdStrike、Palo Alto Networks 等。Anthropic 商业负责人 Paul Smith 的表态很直接:企业需要「引导并验证」每个 agent 在做什么,英伟达的平台在硬件和软件层再加一道管控。

为什么值得关注

  1. 安全边界下移是趋势共识:从 prompt 层、模型层移到运行时和硬件层——最近的 agent 事故潮已经证明,模型内的对齐挡不住长程执行中的越权行为,「模型外可强制执行的边界」成为必需品;
  2. 标准定义权之争:OpenShell 走开源 + 跨平台路线,英伟达争夺的是「agent 安全基础设施」这一层的行业标准,类似当年 CUDA 的卡位逻辑;
  3. 企业落地的合规路径变清晰:把 agent 放进生产环境,终于有了「测试 → 部署 → 监控 → 隔离」的完整工程方案可参考,这对正被 agent 治理问题困扰的企业是及时雨。

评论(0)

暂无评论,来抢沙发~


关于本站 · RSS

浙ICP备2025156991号浙公网安备33010802013816号 浙公网安备33010802013816号 © 2026 智能体工场 - [从善如登] All rights reserved.