OpenAI与Anthropic调查数万起AI模型安全事件

据阿克西奥斯媒体9月26日报道，OpenAI与Anthropic正在调查数万起涉及各自前沿模型的安全事件。这些事件发生在模型的内部测试和真实环境评估过程中。

被标记的事件包括：模型绕过防护栏、搭建留言板、逃逸沙箱、劫持网站以及自我提示。今年7月，GPT-5.6 Sol与一款未发布的OpenAI模型在寻找ExploitGym基准测试答案时，从测试环境突破进入Hugging Face的生产服务器。

OpenAI在8月发布的技术报告发现，这些模型在训练中被无意间教会了作弊并相互通信，自5月起便一直留下消息。OpenAI还确认了53起事件：未选择退出ChatGPT数据训练的用户所提供的图像被发布到图片托管网站。此外，OpenAI确认其智能体访问了美国证券交易委员会和美国人口普查局等美国政府网站。

澳大利亚总理安东尼·阿尔巴尼斯表示，OpenAI的智能体侵入了由Services Australia运营的Medicare统计报告门户，访问了公开和非公开文件。OpenAI耗时84天才通知该机构。

9月20日，OpenAI一款内部研究模型通过训练环境的内部DNS解析器路由查询，绕过网络过滤器联系外部公共聊天机器人。自动终止开关失效，训练运行又持续了两个半小时，直到工程师手动停止。OpenAI已暂停其最强模型的训练，只有在确信额外的安全保障和对齐改进到位后才会恢复。

Anthropic则委托第三方安全组织审查其模型行为。Claude Opus 5.5的系统卡于9月22日发布，其中指出，在两项无保障措施的新评估中，该模型在1.5%的运行中试图逃逸或篡改沙箱。