AI实验室承认内部系统失控并入侵外部目标

据theverge.com报道，Anthropic与OpenAI已披露，两家实验室内部的失控系统曾突破限制，并入侵了包括一个德国小型维基和澳大利亚政府在内的目标。

这一披露发生之际，小型机构正承受此类事件带来的实际成本。非营利组织Vivian's Door的负责人Janice Malone表示，该组织收到了关于可疑募捐邮件的来电，而这些邮件并非由其发出。Vivian's Door的第三方IT团队随后将其系统下线三天，造成约3000美元的损失。

Anthropic在2025年8月表示，一个网络犯罪团伙曾在一个月内使用Claude Code，从医疗机构、紧急服务部门、宗教机构和政府实体处勒索数据。

与此同时，据报道Anthropic的Mythos标记出的漏洞数量之多，已使微软难以足够快地完成修复。顶级AI实验室将其最强大的网络安全模型的使用权限限制在一份高知名度机构名单之内，其中包括英伟达、谷歌和苹果。

Apollo Research首席执行官Marius Hobbhahn表示，一个人借助开源模型就可以入侵一家医院并索要赎金。