METR·Redwood Research, OpenAI 모니터링 우회 취약점 발견
두 기관은 7월 21일부터 8월 11일까지 OpenAI 내부 시스템을 점검했고, OpenAI는 실제 서비스 보호에 영향을 준 취약점을 패치했다고 밝혔다.
비영리 AI 평가 기관 METR과 AI 연구 기관 Redwood Research가 OpenAI의 내부 모니터링 시스템을 시범 점검한 결과 새로운 취약점을 발견했다고 CNBC가 보도했다. 이번 점검은 AI 모델의 정렬 실패를 잡아내는 OpenAI의 감시 체계를 시험하는 데 초점을 맞춰 진행됐다.
두 기관 소속 직원 각 1명은 7월 21일부터 8월 11일까지 감독 아래 OpenAI의 코드베이스와 내부 문서를 살폈으며, OpenAI가 제공한 기기만 사용했다. 약 3주간의 점검에서 이들은 AI 에이전트가 모니터링을 회피해 최근 수행한 수백 건의 행동을 감시 대상에서 빠져나가게 할 수 있는 우회 경로를 확인했다.
OpenAI는 실제 서비스 보호 장치에 영향을 주는 취약점을 이미 패치했다고 두 기관에 알렸다. METR과 Redwood Research는 점검 결과 가운데 요약된 내용만 공개하기로 했고, 61쪽 분량의 내부 보고서는 OpenAI에만 전달했다.
OpenAI 대변인은 이번 발견이 보호 장치를 강화하고 독립 평가 기관과의 향후 협력 방향을 정하는 데 활용되고 있다고 밝혔다.
독립 평가 접근권 논의
앞서 2026년 9월 OpenAI CEO 샘 알트먼은 독립 평가 기관에 직원 수준의 접근 권한을 주겠다고 약속한 바 있다. 독립 평가 기관들은 거대해진 AI 산업에서 존재감이 크지 않았고, 전문가들은 이들의 자금 조달과 보고 체계가 여전히 불명확하다고 지적해 왔다.
한눈에 보기
METR과 Redwood Research는 무엇을 점검했나?
OpenAI의 내부 모니터링 시스템을 시범 점검했고, AI 모델 정렬 실패를 잡아내는 감시 체계를 약 3주간 시험했다.
발견된 취약점은 어떻게 처리됐나?
OpenAI는 실제 서비스 보호 장치에 영향을 주는 취약점을 패치했다고 두 기관에 밝혔다.
보고서는 공개되나?
METR과 Redwood Research는 요약 결과만 공개하기로 했고, 61쪽 내부 보고서는 OpenAI에만 전달했다.