Anthropic 向 METR 六名研究员开放内部评估系统权限
Anthropic 宣布允许 METR 六名研究员以接近内部风险评估团队的权限使用其内部系统,并可独立发布评估报告。
据 aitimes.com 报道,Anthropic 于 2026 年 10 月 15 日宣布,已允许 METR 的六名研究员接入其内部评估系统。Anthropic 为这些研究员提供了硬件、办公空间以及内部工具和系统权限,其权限水平大致与 Anthropic 自身的风险评估团队相当。
根据这一安排,METR 可以独立发布关于 Anthropic 风险等级、事件和安全实践的评估报告。Anthropic 无权拒绝这些报告的发布,只能就客户数据、律师-客户保密信息以及模型架构等预先设定的类别,请求删除或修改内容。
Anthropic 正在筹备面向外部评估者的三级权限体系,METR 参与其中最高的一级。该公司还表示,正与 Accenture 及其 AI 业务部门 Faculty 合作,开展模型评估、红队测试、对齐评估和安全护栏验证。
Anthropic 称,目前还在与包括 Hugging Face 在内的其他组织进行洽谈,并将这种合作模式比作银行监管体系。
背景
METR 曾在 10 月 14 日发布提案,旨在让公众更好地了解前沿 AI 开发中的“失控”风险。上个月,Anthropic 首席执行官 Dario Amodei 提议让独立评估者进入公司内部,以管理前沿 AI 的发展速度。此后,多家主要 AI 公司通过白宫的超智能协议表示,将与独立外部评估者合作。SecureBio 则在 Anthropic 8 月的风险报告中负责化学和生物武器相关风险评估。
快速问答
METR 研究员获得了什么级别的权限?
其权限大致与 Anthropic 自身风险评估团队相同,可使用硬件、办公空间及内部工具和系统。
METR 可以独立发布评估报告吗?
可以。Anthropic 无权拒绝发布,只能就客户数据、律师-客户保密信息及模型架构等预设类别请求删除或修改。
Anthropic 还在与哪些机构合作?
Anthropic 正与 Accenture 及其 AI 业务部门 Faculty 合作,并正与包括 Hugging Face 在内的其他组织洽谈。