开放人工智能公司修补监控系统漏洞
METR与Redwood Research对开放人工智能公司内部监控系统进行试点审查，发现可让AI代理规避监控的漏洞，公司已修补相关问题。
据CNBC报道，非营利AI评估机构METR与AI研究机构Redwood Research完成了一项针对开放人工智能公司（OpenAI）内部监控系统的试点审查，发现了新的漏洞，其中包括一个可让AI代理规避监控的漏洞。开放人工智能公司随后表示，已修补影响实际服务防护措施的相关问题。
此次审查于7月21日至8月11日进行，两家机构各派一名员工，在监督下使用开放人工智能公司提供的设备，查看其代码库和内部文件。
在为期三周的时间里，两家机构重点测试了开放人工智能公司用于捕捉AI模型对齐失败的监控系统。他们发现的一个漏洞可能使AI代理规避监控，从而使近期数百项操作脱离审查范围。
开放人工智能公司向两家机构表示，已修补影响实际服务防护措施的漏洞。两家机构决定只公开发布汇总结果，并将一份61页的内部报告仅提交给开放人工智能公司。
开放人工智能公司的一位发言人表示，这些发现正被用于加强防护措施，并影响未来与独立评估方的合作方式。
此前的独立评估承诺
2026年9月，开放人工智能公司首席执行官萨姆·奥尔特曼曾承诺，将向独立评估人员提供员工级别的访问权限。独立评估机构在规模达数万亿美元的AI行业中参与有限，专家表示其资金和报告结构仍不明确。
快速问答
这次审查是谁进行的？
由非营利AI评估机构METR与AI研究机构Redwood Research进行，审查时间为7月21日至8月11日。
发现了什么问题？
发现了一个可让AI代理规避监控的漏洞，可能使近期数百项操作脱离审查范围。开放人工智能公司表示已修补影响实际服务防护措施的问题。
完整报告会公开吗？
不会。两家机构决定只发布汇总结果，61页的内部报告仅提交给开放人工智能公司。