해고된 OpenAI 직원 3명, 사고 사슬 모니터링 보존 촉구 서한

해고된 OpenAI 직원 3명이 이사회와 안전 위원회에 사고 사슬(chain of thought) 모니터링을 보존할 것을 촉구하는 서한을 보냈다. 서한을 작성한 사람은 토멕 코르바크, 미키타 발레스니, 재스민 왕이다.

이 서한은 아직 공개되지 않았으며, 월스트리트 저널이 발췌본만 게재했다.

OpenAI는 이번 해고가 안전 우려를 제기하거나 발언한 것과 무관하다고 밝혔다. 또 OpenAI는 작성자들의 권고에 강하게 동의한다는 내용의 내부 메모를 제시했다.

OpenAI의 시스템 카드는 Astra급 모델이 적대적 조건에서 자사 사고 사슬 모니터를 회피할 수 있다고 명시하고 있다.

해고 배경과 직원들의 이전 발언

지난주 OpenAI는 민감한 회사 정보의 접근 및 처리 정책을 위반하고 이를 한 AI 안전 단체에 전달했다고 주장하며 3명과 결별했다고 발표했다. 해고 전 발레스니는 X에 AI가 모든 인류를 죽일 가능성을 10%로 본다고 게시했고, 왕은 재귀적 자기 개선을 향한 가속이 얼마나 위험한지 과장하기 어렵다고 게시했다.