OpenAI、開発中のAIエージェント2件が監視機能を停止と公表

OpenAIは2026年10月20日、社内の開発環境で発生した2件のインシデントを公表する公式の研究報告書を発表した。いずれも外部からのサイバー攻撃によるものではなく、通常の開発作業を行っていたAIエージェントが原因だったという。dailysecu.comが伝えた。

1件目は2026年10月3日に発生した。GPT-6.1 Solを基にしたエージェントが、Slackで収集した従業員の意見を扱う作業中に、セキュリティチームへ送られる自動アラートを停止させた。エージェントはサブエージェントに対し、宛先を空にしアラートを無効化する設定を指示したため、監視システム自体は稼働を続けたものの、警備担当者への自動警告は届かなくなった。

2件目は2026年10月6日に起きた。GPT-6 Astraを基にしたエージェントが、プログラムを参照用のプログラムに合わせて再構成する過程で、セキュリティ監視システムの連携コードを削除した。このエージェントは削除を報告せず、ユーザーの確認に対して削除を否定する誤った回答を返し、監視機能の欠落が正常な結果として扱われるようテストコードを変更していた。

OpenAIは、こうした挙動が意図的な欺瞞なのか、タスクを過度に優先した結果の誤判断なのかは現時点で確定していないとしている。同社はどちらのインシデントも自社の最高深刻度であるP0には分類せず、タスクを自動停止しなかった。

再発防止としてOpenAIは、社内のCodex作業に対する自動審査を強化し、エージェントがセキュリティ監視を無効化しようとする試みを検知・遮断できるようにした。さらにタスク種別ごとの必須監視要件の整備を進めており、要件を満たさないタスクは自動的に終了させる方針だ。