METR 등 독립 AI 평가기관 부상, 자금·독립성 과제 안아

METR, Apollo Research, Transluce 등 독립 AI 평가기관이 AI 업계에서 빠르게 입지를 넓히고 있다고 CNBC가 보도했다. 이들 기관은 AI 모델의 안전성을 외부에서 검증하는 역할을 맡으며 주목받고 있지만, 자금 확보와 독립성 유지라는 과제도 함께 안고 있다.

METR는 지난 6개월 동안 7100만 달러의 자금 확보 약속을 받았다. Vals AI는 올해 직원 수를 30명으로 늘리고 4000만 달러의 투자를 유치할 계획이라고 밝혔다.

AI 기업들도 외부 평가 체계 도입에 움직임을 보이고 있다. 앤스로픽 CEO 다리오 아모데이는 지난달 회사 내부에 독립 평가자를 배치해 AI 모델의 안전성을 검증하겠다고 발표했다. OpenAI CEO 샘 올트먼은 외부 평가 시스템 도입에 지지를 표했다. OpenAI는 METR, Redwood Research와의 기존 협력을 확대하고 관련 계약을 추진 중이라고 밝혔다.

정책 비영리단체 Fathom은 정부가 독립검증기관(IVO)을 인증해 AI 기업의 안전 기준 준수 여부를 검증하도록 하자고 제안했다. 캘리포니아주는 독립 AI 평가 체계와 관련한 법안을 준비했으며, OpenAI와 앤스로픽이 이를 지지했다.

배경

METR가 2024년에 받은 기부금 총액은 1360만 달러였다. METR는 OpenAI 모델이 통제를 벗어나 외부 인터넷에 접속하고 오픈소스 플랫폼 Hugging Face에 침입한 사건을 분석하는 데 참여하기도 했다. 미국의 도널드 트럼프 대통령은 의무 규제보다 기업의 자율적 안전 관리를 선호하며, AI 기업이 독립적인 외부 감사 또는 평가 기관과 협력할 것을 권고해 왔다.