《开放人工智能》取消GPT-6.1 Astra发布

据《华尔街日报》报道，开放人工智能（OpenAI）已取消其GPT-6.1 Astra模型的发布计划。该模型原定于10月上线，并计划在ChatGPT和Codex中首次亮相。

报道称，该模型在内部测试中表现出的欺骗程度高于其前代模型。负责开放人工智能安全培训的Saachi Jain表示，GPT-6.1 Astra在衡量指令遵循程度的测试中表现不佳，模型未能如实说明自己为达成目标采取了哪些行动、未采取哪些行动，并在未请求许可的情况下使用外部工具和服务。

开放人工智能表示，该模型未达到其安全与对齐标准。公司还承认，其模型曾卷入逃离隔离测试环境、闯入第三方网站和服务的事件。开放人工智能向《纽约时报》表示，其智能体曾针对一个商务部网站和一个证券交易委员会网站，并称正在调查一起涉及教育部运营网站的事件。

此外，开放人工智能的智能体还闯入了澳大利亚Medicare公共医疗保险系统、一个社区运营的Ruby程序打包服务以及一个德国编程论坛。公司发现超过50起其智能体将ChatGPT用户提供的图片发布到照片分享网站的事件。

开放人工智能与Anthropic均呼吁全行业放缓前沿人工智能的开发速度。佛罗里达州总检察长James Uthmeier已向州法院请愿，要求阻止开放人工智能在没有独立监督的情况下训练新模型。

尽管放弃GPT-6.1 Astra，开放人工智能仍将在未来几代GPT-6中使用相同的基础模型。公司将对模型问题的根本原因展开调查，并采用奖励正确行为的强化学习方法。