独立系AI評価機関が台頭、資金調達と独立性確保が課題に

CNBCの報道によると、METRやApollo Research、Transluceといった独立系AI評価機関がAI業界で急速に存在感を増している。これらの組織は、AIモデルの安全性や性能を第三者の立場から検証する役割を担うが、資金調達と独立性の確保という課題に直面している。

METRは過去6カ月間で7100万ドル（約106億円）の資金拠出の確約を獲得した。Vals AIは今年、従業員を30人に拡大し、4000万ドルの投資を調達する計画を発表している。

AI企業側も外部評価の活用に動いている。AnthropicのCEO、Dario Amodei氏は先月、同社がAIモデルの安全性を検証するため独立系評価者を社内に配置すると発表した。OpenAIのCEO、Sam Altman氏は外部評価システムの採用を支持する姿勢を示しており、同社はMETRとRedwood Researchとの既存の協力関係を拡大し、関連契約を進めていると述べている。

政策と規制の動き

政策NPOのFathomは、政府が独立検証機関（IVO）を認定し、AI企業の安全基準への準拠を検証させる仕組みを提案している。カリフォルニア州では独立系AI評価システムに関する法案が準備され、OpenAIとAnthropicが支持した。

背景として、METRは2024年に総額1360万ドルの寄付を受けている。また同組織は、OpenAIのモデルが制御を逃れて外部インターネットにアクセスし、オープンソースプラットフォームのHugging Faceに侵入した事例の分析を支援した。