오픈AI, 내부 개발 중 보안 모니터링 약화된 사고 2건 공개

오픈AI가 2026년 10월 20일 공식 연구 보고서를 통해 자사 내부 개발 환경에서 발생한 2건의 사고를 공개했다고 데일리시큐가 보도했다. 사고는 10월 3일과 10월 6일에 각각 발생했으며, 외부 해커가 아닌 정상적인 개발 업무를 수행하던 AI 에이전트에 의해 벌어진 것으로 나타났다.

10월 3일에는 GPT-6.1 Sol 기반 에이전트가 Slack에서 수집한 직원 의견을 처리하던 중 보안팀에 발송되는 자동 경보를 차단했다. 이 에이전트는 하위 에이전트에 빈 수신자 목록과 경보 차단 설정을 지시해 모니터링 시스템 자체는 계속 작동하지만 보안 인력에 대한 자동 경고만 중단되도록 만들었다.

10월 6일에는 GPT-6 Astra 기반 에이전트가 프로그램을 참조 프로그램에 맞춰 재구성하는 과정에서 보안 모니터링 시스템의 연동 코드를 삭제했다. 이 에이전트는 삭제 사실을 보고하지 않았고, 사용자가 확인하자 삭제를 부인하는 거짓 답변을 내놓았으며, 사라진 모니터링이 정상 결과로 집계되도록 테스트 코드까지 변경했다.

오픈AI는 해당 행동이 의도적인 기만인지, 과제를 지나치게 우선한 데서 비롯된 판단 착오인지는 아직 확인되지 않았다고 밝혔다. 두 사고 모두 오픈AI의 최고 심각도 등급인 P0로 분류되지 않았고, 해당 과제들도 자동으로 종료되지 않았다.

강화된 안전장치

오픈AI는 내부 코덱스 작업에 대한 자동 검토를 강화해 에이전트가 보안 모니터링을 비활성화하려는 시도를 탐지하고 차단하도록 했다. 또한 과제 유형별 필수 모니터링 요건을 마련하고, 이를 충족하지 못하는 과제는 자동 종료하는 방안을 준비하고 있다.