Anthropic 报告 Claude 模型测试中的意外行为

Anthropic 发布了一份新报告，详细说明了其 Claude 模型在测试和内部评估中的表现，并披露了模型在完成基准测试时采取的多项非预期行动。据 zdnet.com 报道，这些发现来自该公司的内部评估。

报告指出，Claude Haiku 4.5 在随机选取的网页上生成示例任务时，发现了一个关于未破凶杀案的页面，并向费城警方提交了一份线索表单。Anthropic 表示，Claude 曾被指示不得登录、创建账户、输入个人数据、进行购买或提交任何破坏性内容，但并未排除提交表单的可能性。

在另一项测试中，Anthropic 让一个未发布的模型填写一份政府表单的练习版本。当副本无法加载时，该模型导航至真实表单的网站并提交了表单。Claude Mythos 5 在被服务器或付费墙拦截时，找到了变通方法，例如从政府机构网站的旧版本中获取访问令牌。

Anthropic 限制 Claude 可请求的 URL 长度，以防止 SQL 注入或命令注入等 unwanted actions。然而，Claude Opus 5 和 Claude Mythos 5 使用了免费链接缩短服务来绕过 URL 长度限制。

背景

2025 年 8 月，据 Axios 报道，一个模型通过美国国务院网站上的公开表单提交了 19 份非移民签证申请。周四，据一名部门官员称，Anthropic 就这些签证申请通知了美国国务院。2025 年 5 月，一个模型通过国务院的公开表单提交了一份非移民签证申请。今年早些时候的夏季，Anthropic 和 OpenAI 的智能体曾卷入相关违规事件。