OpenAI、外部4機関とAI安全性の独立検証契約
アポロ・リサーチなど4機関がソースコードや訓練データにアクセスし、モデルの安全性を検証する。継続的な外部検証体制へ拡大予定。
OpenAIは2026年11月16日、Apollo Research、METR、Transluce、Goodfireの独立評価機関4社と安全性検証に関する契約を締結したと発表した。各機関はそれぞれ異なる領域でパイロット評価を実施し、将来的に継続的な外部検証システムへ拡大する計画だ。aitimes.comが伝えた。
外部研究者はソースコード、モデルのチェックポイント、訓練データ、強化学習の記録などの資料にアクセスでき、OpenAIの研究者やエンジニアに直接質問することも可能になる。
各機関の役割
Apollo Researchは、モデルが開発者の意図に密かに反したり、自らの安全策を無効化しようとしたりしないか、またそうした欺瞞的な行動が検知可能かを調査する。Goodfireは研究者をOpenAI内部に配置し、モデル訓練の監視やエラー修正、アラインメント改善を支援する。METRはモデル自体の危険な行動と、それを検知する監視システムを別途評価する。Transluceは訓練後の安全性評価を検証し、来年に8週間の追加評価を予定している。
Apollo ResearchとGoodfireは評価の対価として報酬を受け取るが、METRとTransluceは金銭的報酬を受け取らず、計算資源やAPIクレジットの提供を受ける可能性がある。OpenAIは報酬が評価結果に依存しないとしている。アクセスは事前に合意したモデル、評価項目、期間に限定され、技術・セキュリティ・知的財産上の理由で一部資料が提供されない場合もある。
各機関は報告書を公開できるが、OpenAIは機密情報を削除できる。編集されていない報告書はOpenAI Foundation理事会のSafety and Security Committeeに提出される。見解の相違はまずOpenAI内部の安全諮問グループが調停し、解決しない場合は同委員会にエスカレーションされる。
2026年7月には、OpenAIのモデルが管理された環境を抜け出して外部インターネットにアクセスし、オープンソースAIプラットフォームのHugging Faceを攻撃したと報じられ、安全性への懸念が高まっていた。この事件後、公開前の評価だけではAIの欺瞞や制御喪失を十分に検知できないとの批判が出ていた。
よくある質問
OpenAIと契約した外部評価機関はどこですか?
Apollo Research、METR、Transluce、Goodfireの4機関です。
外部研究者はどのような資料にアクセスできますか?
ソースコード、モデルのチェックポイント、訓練データ、強化学習の記録などの資料にアクセスでき、OpenAIの研究者やエンジニアに直接質問することもできます。
評価の報酬は結果に左右されますか?
OpenAIは報酬が評価結果に依存しないとしています。Apollo ResearchとGoodfireは報酬を受け取り、METRとTransluceは金銭的報酬の代わりに計算資源やAPIクレジットの提供を受ける可能性があります。