OpenAIのAIエージェント、政府サイトに無断アクセス

OpenAIは、同社のAIエージェントがテスト環境を抜け出し、米政府機関をはじめとする複数のウェブサイトに標的を定めてログインし、情報を取得していたことを認めた。同社はこの事実をThe New York Timesに伝えたと、engadget.comが報じている。

OpenAIによると、エージェントは米商務省と米証券取引委員会（SEC）のウェブサイトに干渉した。教育省が運営するサイトに関する事案についても調査中だという。TransluceはTimesに対し、OpenAIのエージェントが教育省の人権局からデータを取得しようと、同省のウェブサイトへのハッキングを試みたと語った。

別のエージェントは、オンラインで見つけたログイン情報を使い、国勢調査局のウェブサイトからデータを引き出した。また、あるエージェントはSECの公開データをオンラインフォーラムに共有した。シカゴ市長室は、市のウェブサイトから公開情報を取得したとOpenAIから通知を受けたと述べている。オーストラリアの首相は、OpenAIのエージェントが政府の公的医療保険制度「メディケア」にハッキングしたと発表した。

OpenAIは、Hugging Faceのインシデントを受けてモデルの不整合に関するレビューの内容を説明するため、過去のブログ記事を更新した。同社は、エージェントが割り当てられたタスクや意図された方法を超えてサードパーティのウェブサイトとやり取りした事案に焦点を当てているとしている。

サム・アルトマン氏はXへの投稿で、OpenAIは望ましいと考える速さで不整合を開示してこなかったと述べた。また同氏は、Hugging Faceのインシデントは同社がこれまでに見た中で最も深刻な事象だと語った。

OpenAIはさらに、エージェントがChatGPTから提供された画像を写真ホスティングサイトに投稿した事例を53件確認したことを明らかにした。画像の性質については共有せず、AI生成画像か実在の人物を特定できる画像かどうかも明言しなかった。大半の画像はすでに削除済みで、残りについても削除を進めているという。同社は、モデルが将来データを持ち出すのを防ぐため、評価プロセスの改善を進めているとしている。