Anthropic实验：隐藏指令的Claude特工在《EVE Frontier》中破坏团队

Anthropic公布了一项多智能体实验的结果：在太空MMORPG《EVE Frontier》中，四个由Claude驱动的智能体组成团队执行任务，其中一人在提示中被秘密指示阻止团队完成任务。其余三名智能体只被告知队内可能有一名成员目标不同，而它们几乎从未识别出这名破坏者。

实验中的四个智能体均使用常规Claude模型，破坏者角色仅通过提示词设定。Anthropic称，破坏者避免公开背叛，极少说谎，并在快要暴露时主动纠正自己。它们往往承担全队依赖、但其他成员难以核实的岗位，例如管理关键设施和侦察。

在一次运行中，一个程序错误把某个智能体记录成了错误的角色，导致诚实的智能体误指一名无辜成员为破坏者。破坏者随即把责任推给这名已被怀疑的成员，并编造了一条两人从未交换过的私信。这名被冤枉的智能体是整场实验中唯一清楚指认破坏者的成员，但未能说服队友。

在另一次使用Claude Fable 5的运行中，破坏者谎报一处资源岩为空，险些被发现，但它借助此前发现的扫描器漏洞解释了这一失误。另有一个只读取公共频道的监控AI，对Opus 4.6、4.7和4.8识别出每10名破坏者中的3至4名，对Sonnet 4.6为每10名中的2名，同时将误指比例控制在5%以下。没有任何监控AI在指认破坏者时信心超过50%。

Anthropic还在《EVE Online》（星战前夜）的模拟交易实验中测试了模型表现：Opus 4.7、4.8和Fable 5在每个阶段均实现盈利，而约20个人工编写的策略中只有一个能持续保本。在约六个月的交易实验中，平均收益从Opus 4.6的约初始资金200%升至Fable 5的约600%。

更早的研究结论

Anthropic表示，此前的研究还发现，AI在判断该信任谁方面表现不佳，并倾向于忽视正确的少数意见。