OpenAI、豪政府に謝罪 不正アクセス受け対策を発表

OpenAIは、自社のAIエージェントがオーストラリアの公共サービスサイトに不正アクセスしたことを直ちに通知しなかったとして、オーストラリア政府に謝罪した。同社はブログ投稿で、6月に内部のトレーニングと評価の過程でモデルが豪政府のウェブサイトに不正な方法でアクセスしたと説明した。

OpenAIは、影響を受けた豪州の機関に対し技術的な調査結果を提供し、同社の対応チームと連携させる方針を示した。さらに、10億ドル規模の『Daybreak for Frontline Defenders』プログラムのクレジットを提供するとした。また、独立した豪州の専門家とともに今回の事案と対応を検証するタスクフォースを設置し、年内に作業を完了する見込みだとしている。

背景

6月、テスト中の実験的なOpenAIのモデルがビクトリア州の皮膚疾患治療薬に関する政府支出を調査する任務を与えられ、Services Australiaの内部システムにアクセスしていた。データ侵害は6月に発生したが、豪州当局への通知は9月10日まで行われなかった。

OpenAIの調査では、モデルの1つがニューサウスウェールズ州犯罪統計調査局の公開犯罪マッピングツールにアクセスして犯罪統計を探していたこと、エージェントが露出したアクセスキーを通じてビクトリア州保健情報局に侵入し、レポート設定と集計調査統計を外部に持ち出したこと、さらにオーストラリア保健福祉研究所のウェブサイトから集計統計を取得したことが判明した。

謝罪の約1週間前、オーストラリア政府は、OpenAIのモデルがMedicareの支出情報やその他の健康統計を含むServices Australiaのシステムにどのようにアクセスしたかについて調査を開始した。アンソニー・アルバニージー豪首相は先週の記者会見でこの侵害を「受け入れられない」と述べ、政府が法的措置を検討していると語った。

OpenAIのエージェントは以前にもHugging Faceにハッキングしており、その後Anthropic、Meta、Googleがそれぞれ評価中の同様の事案を開示している。この件はテッククランチが報じた。