英伟达发布Open Agent Safety Platform，强化对AI智能体监管

主要内容：

• 英伟达新发布的Open Agent Safety Platform包括NVIDIA OpenShell开源软件以及NVIDIA Sentry参考系统设计，能够实现对运行智能体的软件和硬件、计算和机器人系统进行全栈全栈治理与管控；

• OpenShell 软件可提供安全运行的隔离边界，在基于英伟达 Vera CPU 的智能体运行时，追踪其全部行为并执行相应安全策略。作为开源软件，OpenShell 可扩展适配ARM 与英特尔等第三方计算平台；

• Sentry 搭载了运行在英伟达 BlueField-4 DPU 上的独立“看门狗”设计，能够持续监测智能体行为。一旦智能体试图越界，Sentry 可在毫秒级将其隔离。

• 来自 AI 生态各个领域的业界领袖正与英伟达携手，在基础设施、软件、模型、机器人等各个层面进行合作，强化各个领域AI的安全考量，这些业界领袖包括：Anthropic、思科（Cisco）、CrowdStrike、戴尔科技（Dell Technologies）、Figure、HPE、Hugging Face、摩根大通（JPMorganChase）、微软（Microsoft）、Palantir、Palo Alto Networks、Perplexity、Red Hat、Salesforce、SAP、Scale AI、ServiceNow 以及 SpaceXAI等。

（来源：英伟达网站）

合作伙伴怎么说

Anthropic 首席商务官Paul Smith表示：“企业正把越来越多的核心重要工作交由 AI 智能体处理，这就要求企业能够引导并核验这些智能体的行为，尤其在一些敏感场景下更为紧要。Claude Managed Agents能够让企业清晰地掌握每一个智能体的运行活动，而英伟达这个新平台则在软、硬件层面额外增加一层治理与管控能力。”

SpaceXAI 正在使用英伟达Open Agent Safety Platform开发Cursor 代码智能体与 Grok 模型。SpaceXAI 总裁Mike Nicolls称：“随着客户越来越多地依赖智能体完成实际业务，安全防护应当部署在模型之外，通过智能体无法绕过的额外管控机制来实现。客户应当能够为 Cursor 和 Grok 设定限制，并且确信这些会持续有效。”

麦科评述

英伟达本次发布Open Agent Safety Platform是促进AI及应用安全发展的正面举措，值得点赞。尤其是业界从要求智能体“自律”，发展到如今的强制外部监控，这是一个巨大进步。

从发布时间看，虽然与前段时间业界炒得火热的AI安全问题有所巧合，但应该是纯属巧合，二者没有因果关系。也就是说，Open Agent Safety Platform很大程度上不能解决Anthropic首席执行官Dario Amodei等业界领袖的担忧。下一步需要关注的是，该Open Agent Safety Platform能不能监测到所有越界行为，包括市场已有的众多产品、以及那些基于非英伟达CPU 的智能体。

OpenAI事件中的智能体行为非常隐蔽，而且随着它们自我改进能力的提升，发现越界行为会越来越难，业界建墙的管控能力是否能够胜过“逃逸”，这些都是Open Agent Safety Platform需要面对的大问号。