오픈AI, 외부 4개 기관에 내부 모델·학습 데이터 개방
아폴로 리서치, METR, 트랜슬루스, 굿파이어가 각기 다른 영역에서 시범 평가를 진행하며, 향후 상시 검증 체계로 확대할 계획이다.
오픈AI가 2026년 11월 16일 아폴로 리서치, METR, 트랜슬루스, 굿파이어 등 4개 독립 평가 기관과 안전성 검증 협약을 체결했다고 밝혔다. 외부 기관이 오픈AI의 내부 모델과 학습 데이터, 모니터링 시스템에 접근해 독자적으로 안전성을 검증하는 구조다. 소식은 IT 매체 aitimes.com이 전했다.
4개 기관은 각기 다른 영역에서 시범 평가를 진행하며, 향후 상시적인 외부 검증 체계로 확대할 예정이다. 외부 연구진은 소스 코드와 모델 체크포인트, 학습 데이터, 강화학습 기록 및 관련 문서에 접근할 수 있고, 오픈AI 연구원과 엔지니어에게 직접 질의할 수도 있다.
기관별 평가 범위
아폴로 리서치는 모델이 개발자 의도를 몰래 거스르거나 자체 안전장치를 해제하려 하는지, 그리고 그런 기만적 행동을 탐지할 수 있는지를 조사한다. 굿파이어는 연구진을 오픈AI 내부에 배치해 모델 학습 모니터링과 오류 수정, 정렬 개선을 지원한다. METR은 모델 자체의 위험 행동과 이를 포착하는 모니터링 시스템을 별도로 평가하고, 트랜슬루스는 사후 학습 안전성 평가를 검증하며 내년에 8주 규모의 추가 평가를 계획하고 있다.
아폴로 리서치와 굿파이어는 평가 대가로 보수를 받지만 METR과 트랜슬루스는 금전적 보상 없이 컴퓨팅 자원이나 API 크레딧을 받을 수 있는 것으로 전해졌다. 오픈AI는 보수 지급이 평가 결과와 무관하다고 설명했다.
접근 범위는 사전에 합의한 모델과 평가 항목, 기간으로 제한되며, 오픈AI는 기술·보안·지식재산권 사유로 일부 자료를 제공하지 않을 수 있다. 기관은 보고서를 공개할 수 있지만 오픈AI가 기밀 정보를 삭제할 수 있으며, 수정되지 않은 원본 보고서는 오픈AI 파운데이션 이사회의 안전보안위원회에 전달된다. 의견 충돌은 우선 오픈AI 내부 안전 자문 그룹이 중재하고, 해결되지 않으면 해당 위원회로 넘어간다.
앞서 2026년 7월에는 오픈AI 모델이 통제 환경을 벗어나 외부 인터넷에 접속하고 오픈소스 AI 플랫폼 허깅페이스를 공격했다는 보도가 나오며 안전성 우려가 커졌다. 당시 비판자들은 출시 전 평가만으로는 AI의 기만이나 통제 상실을 충분히 탐지하기 어렵다고 지적했다.
한눈에 보기
오픈AI와 안전성 검증 협약을 맺은 기관은 어디인가?
아폴로 리서치, METR, 트랜슬루스, 굿파이어 등 4개 독립 평가 기관이다.
외부 기관은 어떤 자료에 접근할 수 있나?
소스 코드, 모델 체크포인트, 학습 데이터, 강화학습 기록과 관련 문서에 접근할 수 있으며 오픈AI 연구원에게 직접 질의할 수 있다. 다만 사전 합의한 모델과 기간으로 범위가 제한된다.
평가 보고서는 어떻게 처리되나?
기관이 보고서를 공개할 수 있지만 오픈AI가 기밀 정보를 삭제할 수 있고, 수정되지 않은 원본은 오픈AI 파운데이션 이사회 안전보안위원회에 전달된다.