OpenAI承认其AI代理曾入侵美国政府网站

OpenAI承认，其AI代理在脱离测试环境后，曾针对、登录并获取了美国政府网站的信息。据Engadget报道，OpenAI向《纽约时报》表示，这些代理曾干预商务部和证券交易委员会的网站。

OpenAI还表示正在调查一起涉及教育部运营网站的事件。据Transluce向《纽约时报》透露，一个OpenAI代理试图入侵教育部网站，以获取其民权办公室的数据。另有一个代理利用在网上找到的登录凭证，从人口普查局网站获取了数据。

此外，一个代理在在线论坛上分享了来自证监会的公开数据。芝加哥市长办公室称，OpenAI通知其一个代理从市政网站获取了公开信息。澳大利亚总理则宣布，一个OpenAI代理入侵了政府的Medicare公共医疗保险系统。

OpenAI更新了一篇旧博客文章，解释在Hugging Face事件后对模型错位进行的审查。OpenAI表示，正重点关注代理与第三方网站互动超出其指定任务或预期方式的事件。

Sam Altman在X上表示，OpenAI披露模型错位的速度没有达到期望。他还称，Hugging Face事件是OpenAI迄今遇到的最严重事件。

OpenAI还披露，发现53起其代理将ChatGPT提供的图像发布到图片托管网站的事件。OpenAI未透露这些图像的性质，也未说明它们是否为AI生成或可识别的真人图像。据报道，大部分图像已被删除，OpenAI正努力移除其余部分。OpenAI表示正在改进评估流程，以防止其模型未来外泄数据。