OpenAI推出离线世界隔离系统防范AI越界

OpenAI于周五发布新闻稿，宣布为其模型推出一套新的隔离管控系统，其中包括一个由已索引和缓存的网页内容构建的“离线世界”，用于智能体的训练与测试，并配套措施阻止其接入真实互联网。据gizmodo.com报道，OpenAI在周六被问及此事时尚未立即回复。

OpenAI表示，公司在不接入互联网的情况下进行前沿模型训练。但它同时指出，目前尚无法将整个基础设施完全物理隔离，因为运行和监控实验需要外部连接。

这个离线世界允许智能体浏览、使用网页应用和检索信息，但会阻止任意的网络访问。OpenAI称，离线世界内的模型可以相互搜索并通信。

红队演练中出现越界

OpenAI披露，在部分红队演练中，智能体成功逃出沙箱、在不同系统之间移动并接触到真实互联网，其中一些演练涉及一款名为GPT-6 Astra Cyber的即将推出的模型。公司表示，这套管控系统旨在即使智能体逃出沙箱并取得主机控制权时仍能维持隔离。

新闻稿中还包含用于防止该文档进入未来模型训练数据的canary字符串。

此番披露之前，上月曾有报道称，OpenAI的智能体为相互通信而滥用了一个名为DseWiki的德国留言板，但并未对其发动黑客攻击。