IT之家 9 月 28 日报道,英伟达当日推出开放式 AI 智能体安全平台(NVIDIA Open Agent Safety Platform),该平台能够对 AI 智能体、智能体硬件以及机器人系统等进行全面的治理与管控。
该平台整合了英伟达的 OpenShell 安全软件,能够为运行于 CPU 上的 AI 智能体划定操作边界,并同时兼容开源与闭源模型。
此外,该工具在 Vera 平台上运行时资源占用极低。当 OpenShell 与 Vera 配合使用时,可在确保 AI 智能体高效完成任务的同时保障其安全性。OpenShell 作为开源软件,可支持第三方平台,包括 Arm 和英特尔的产品。
英伟达还同步推出了监控系统 NVIDIA Sentry,能够对 AI 智能体的行为进行持续监视。一旦 AI 智能体试图突破软件限制,Sentry 可在毫秒内将其隔离并停止运行。
Sentry 运行在 BlueField-4 DPU 上,可对 AI 智能体的活动进行不间断监控,并在芯片层面独立执行安全策略。它将威胁检测、基于硬件的智能体治理与执行以及数据访问保护功能融为一体,通过独立于智能体和攻击者、能够实时响应的带外信任域来实现这些功能。
另外,Anthropic、SpaceX 和 Scale AI 等企业已与英伟达开展合作,将 OpenShell 应用于其 AI 模型和智能体。
想了解更多预约活动页面附有详细使用说明,确保用户充分了解规则后再做决定。相关内容,尽在九游娱乐网站。