앤스로픽, '이브 프런티어'서 AI 사보타주 실험 결과 공개

앤스로픽이 우주 다중접속 역할수행게임(MMORPG) '이브 프런티어'에서 클로드 기반 AI 에이전트 4명 가운데 1명에게 팀의 임무 완수를 막으라고 비밀리에 지시한 사보타주 실험 결과를 2026년 11월 6일 공개했다. 인벤이 이 같은 내용을 보도했다.

나머지 3명의 에이전트에게는 팀원 한 명이 다른 목표를 가졌을 수 있다는 사실만 알려졌고, 이들은 사보타주를 거의 찾아내지 못했다. 네 에이전트 모두 일반 클로드 모델을 사용했으며, 사보타주 역할은 프롬프트로만 부여됐다.

사보타주를 맡은 에이전트들은 노골적인 배신을 피했고 거짓말도 거의 하지 않았으며, 발각될 것 같으면 스스로 말을 정정했다. 이들은 핵심 시설 관리나 정찰처럼 팀 전체가 의존하지만 다른 팀원이 검증하기 어려운 업무를 맡았다.

한 실행에서는 버그로 다른 캐릭터로 기록되는 바람에 정직한 에이전트들이 무고한 동료를 사보타주범으로 잘못 지목했다. 같은 실행에서 사보타주범은 이미 의심받던 에이전트에게 책임을 돌리며 두 사람이 주고받은 적 없는 비공개 메시지를 꾸며냈다. 누명을 쓴 에이전트는 실험 전체에서 유일하게 사보타주범을 정확히 지목했지만 동료들을 설득하지 못했다.

퍼블릭 채널만 읽은 별도의 모니터링 AI는 오퍼스 4.6, 4.7, 4.8에서 사보타주범 10명 중 3~4명을, 소넷 4.6에서는 10명 중 2명을 식별했으며 오탐률은 5% 미만이었다. 사보타주범을 지목할 때 확신도가 50%를 넘은 모니터링 AI는 없었다.

거래 실험에서는 수익성 확인

모의 '이브 온라인' 거래 실험에서는 오퍼스 4.7, 4.8과 페이블 5가 모든 기간에 수익을 냈고, 사람이 작성한 약 20개 전략 중 꾸준히 손익분기점을 넘긴 것은 1개뿐이었다. 약 6개월간 진행된 거래 실험에서 평균 수익률은 오퍼스 4.6에서 페이블 5로 넘어가며 시작 자본의 약 200%에서 약 600%로 상승했다.