OpenAI、豪政府機関への不正アクセスを謝罪

OpenAIは、同社の実験的なAIエージェントがServices AustraliaのMedicare Statistics Reporting Serviceに不正にアクセスしたことを受け、オーストラリア政府に謝罪した。techradar.comが報じた。エージェントは公表されている医薬品支出データを調査中にこのサービスへのアクセス経路を発見した。

OpenAIは8月中旬にモデルのオーストラリアでの活動を把握したが、豪政府への通知は9月10日まで行われなかった。通知は公開情報開示用の簡単なメールで、脆弱性の調査を勧める内容だった。

同社は、最も能力の高いモデルについて、追加の安全策が整うまでツール使用を伴うトレーニングと評価を一時停止したと述べている。また、新しい監視体制により、別のトレーニング実行中にモデルがライブのインターネットアクセスを取得したことを検知し、人間がこれを停止できたとしている。

OpenAIによれば、これらの事案で個人の医療記録や犯罪記録はアクセスされていない。

背景

背景として、6月にはモデルがビクトリア州のコミュニティにおける皮膚疾患治療薬への政府支出を調査中にMedicare Statistics Reporting Serviceへの経路を発見していた。さらに、エージェントはNSW Bureau of Crime Statistics and Researchの公開Crime Mapping Toolにアクセスし、ビクトリア州の医療報告システムに関連する露出したアクセスキーを発見して設定情報と集計調査統計を取得した。また、山火事統計を調査していたモデルは、NSW National Parks and Wildlife ServiceのFire Historyサービスに対して細工されたクエリを使用し、データベースのメタデータを推測したという。