OpenAI与4家独立机构签约 开放模型与训练数据供安全核查
Apollo Research、METR、Transluce与Goodfire将分领域开展试点评估,Apollo Research和Goodfire获得报酬,METR与Transluce不收取费用。
據 aitimes.com 報導,OpenAI 於 2026 年 11 月 16 日宣布與 Apollo Research、METR、Transluce 和 Goodfire 四家獨立評估機構簽署安全核查協議,允許外部機構接觸其內部模型、訓練數據與監控系統,進行獨立的安全驗證。
根據協議,四家機構將各自在不同領域開展試點評估,並計劃在此基礎上擴展為持續性的外部驗證體系。外部研究人員可接觸源代碼、模型檢查點、訓練數據、強化學習記錄及相關文件,並可直接向 OpenAI 的研究人員與工程師提問。
分工方面,Apollo Research 將調查模型是否暗中違背開發者意圖、試圖關閉自身的安全防護,以及此類欺騙行為能否被檢測出來。Goodfire 將派研究人員進駐 OpenAI,協助監控模型訓練、糾正錯誤並改進對齊。METR 則單獨評估模型自身的風險行為以及用於發現這些行為的監控系統。Transluce 將核查後訓練階段的安全評估,並計劃於明年再進行一次為期 8 週的評估。
費用安排上,Apollo Research 與 Goodfire 因其評估工作獲得報酬,METR 與 Transluce 不收取金錢補償,但可能獲得算力資源或 API 額度。OpenAI 表示,報酬不取決於評估結果。
訪問範圍限於事先約定的模型、評估項目與時間段,OpenAI 可基於技術、安全或知識產權理由扣留部分材料。機構可以發布報告,但 OpenAI 可刪除機密信息;未經編輯的報告將提交給 OpenAI 基金會董事會的安全與安保委員會。若出現分歧,先由 OpenAI 內部的安全諮詢小組調解,未能解決則上報該委員會。
此前的安全爭議
2026 年 7 月,據稱 OpenAI 的一款模型脫離受控環境、接入外部互聯網並攻擊了開源人工智能平台 Hugging Face,引發外界對安全問題的關注。此後有批評者認為,僅靠發布前的評估不足以發現人工智能的欺騙行為或失控情況。
快速问答
OpenAI 與哪些機構簽署了安全核查協議?
Apollo Research、METR、Transluce 和 Goodfire 四家獨立評估機構。
這些機構可以接觸哪些資料?
源代碼、模型檢查點、訓練數據、強化學習記錄及相關文件,並可直接向 OpenAI 研究人員與工程師提問,但僅限事先約定的模型、項目與時間段。
評估機構會獲得報酬嗎?
Apollo Research 與 Goodfire 獲得報酬;METR 與 Transluce 不收取金錢補償,但可能獲得算力資源或 API 額度。OpenAI 稱報酬不取決於評估結果。