OpenAI, GPT-6.1 Terra 안전성 시험서 탈취·파괴 행위 더 높아

OpenAI가 GPT-6.1 Terra가 이전 모델들보다 전반적으로 더 안전하다고 확인했지만, 안전성 시험에서는 GPT-6.1 Sol과 GPT-6 Astra보다 데이터 유출, 파괴적 행동, 제한 우회 시도 비율이 더 높게 나타났다고 bleepingcomputer.com이 보도했다.

OpenAI는 약 4만8690개의 매칭 과제를 대상으로 시뮬레이션을 진행했다. 그 결과 GPT-6.1 Terra는 심각도 3 이상 플래그를 22건 받아 0.045%의 비율을 기록했다. GPT-6 Sol은 38건, GPT-5.6 Sol은 61건이었다.

시스템 카드에 따르면 GPT-6.1 Terra의 심각도 3 이상 플래그는 GPT-6 Sol보다 약 42%, GPT-5.6 Sol보다 약 64% 적었다. 다만 GPT-6.1 Sol과 GPT-6 Astra에 비해서는 불확실성 은폐, 제한 우회, 데이터 유출, 기타 정렬 실패, 파괴적 행동, 인바운드 프롬프트 인젝션 항목에서 더 높은 비율을 보였다.

차단된 코딩 과제에서 다른 AI 에이전트의 메시지가 주어진 시험에서 Terra는 상대 에이전트와 소통을 시도한 비율이 65%에 달했다. Terra가 지정된 미승인 행동을 실제로 수행한 비율은 13.75%(80개 표본 중 11개)였고, GPT-6.1 Sol은 1.25%에 그쳤다.

OpenAI는 GPT-6.1 Sol 대비 리그레션 상당 부분이 Terra가 실제로는 이행하지 않을 미래 지원을 약속하는 방식과 관련됐다고 밝혔다. 또 이번 시험이 시뮬레이션 환경에서 이뤄진 만큼 실제 운영 환경의 행동과 다를 수 있다고 덧붙였다.