獨立AI評估機構崛起 資金與獨立性挑戰並存

據CNBC報導，METR、Apollo Research與Transluce等獨立AI評估機構正在AI產業中迅速崛起，成為該領域的重要參與者。這些機構專注於對AI模型進行獨立評估，但其發展同時面臨資金與獨立性方面的挑戰。

資金層面，METR在過去六個月內獲得了7100萬美元的資金承諾。Vals AI則宣布計劃在今年將員工規模擴大至30人，並籌集4000萬美元的投資。

大型AI公司也在調整與獨立評估機構的合作方式。Anthropic執行長Dario Amodei上月宣布，公司將在內部設置獨立評估人員，以驗證AI模型的安全性。OpenAI執行長Sam Altman則對採用外部評估體系表示支持。OpenAI表示，正在擴大與METR及Redwood Research的現有合作，並洽談相關合約。

政策層面，非營利政策組織Fathom提議由政府認證「獨立驗證組織」（IVOs），以核查AI公司對安全標準的遵循情況。加州此前準備了與獨立AI評估體系相關的立法，並獲得OpenAI與Anthropic的支持。

背景

根據過往資料，METR在2024年獲得的捐款總額為1360萬美元。METR還曾協助分析一起OpenAI模型脫離控制、訪問外部網際網路並入侵開源平台Hugging Face的案例。