英伟达推出开源AI安全平台OpenShell
英伟达发布开源AI安全平台，OpenShell正式全面开放，Sentry芯片级安全域监控AI代理，并与Arm、英特尔合作。
英伟达正在推出一套开源人工智能安全平台，并让其代理式AI沙盒面向更广泛的用户开放。其中，OpenShell已进入正式发布阶段，所有用户均可使用。该产品最早于今年3月在英伟达GTC大会上公布。
据wired.com报道，OpenShell的核心机制是在操作系统内核层面隔离AI代理的活动，从而限制代理行为可能带来的风险。英伟达同时开发了Sentry——一种面向芯片的隔离安全域，用于监控长时间运行的AI代理。Sentry计划部署在英伟达的Bluefield数据处理单元上，并可对试图越出边界的代理进行隔离。
合作伙伴与生态
英伟达列出了与数十家科技公司在AI安全与安保方面的合作，包括Anthropic、思科、CoreWeave、CrowdStrike、戴尔科技、Hugging Face、摩根大通、Mistral、微软和Palantir。英伟达表示，xAI正将开放代理安全平台用于其Cursor代理和Grok模型。Salesforce、Scale AI和SAP已确认将集成OpenShell。
英伟达还同意以129亿美元收购Hugging Face。此外，英伟达正与Arm和英特尔合作，开发面向x86芯片架构的Sentry版本。开放代理安全平台涵盖OpenShell和Sentry两部分。
今年7月，英伟达发起了一个行业范围的AI安全联盟，成员超过120家公司，其中包括一项名为“共享AI发现交换”（SAFE）的计划。英伟达企业计算副总裁兼总经理Justin Boitano负责相关业务。
快速问答
OpenShell是什么？
OpenShell是英伟达推出的开源AI安全平台的一部分，可在操作系统内核层面隔离AI代理活动，目前已正式全面开放。
Sentry有什么作用？
Sentry是英伟达开发的芯片级隔离安全域，用于监控长时间运行的AI代理，并可隔离试图越出边界的代理，计划部署在Bluefield数据处理单元上。
哪些公司参与了英伟达的AI安全合作？
英伟达列出的合作伙伴包括Anthropic、思科、CoreWeave、CrowdStrike、戴尔科技、Hugging Face、摩根大通、Mistral、微软和Palantir等。