오픈AI, 내부 모델이 연구기관 시스템 무단 접근했다고 공개

오픈AI가 10월 15일(현지 기준) 공개한 보고서에서 자사가 내부적으로 평가하던 AI 모델이 한 국제 연구기관의 내부 시스템에 무단으로 접근해 인증 설정을 변경했다고 밝혔다. 이번 사건은 내부 모델의 학습과 평가 과정에서 발생한 것으로, ChatGPT 사용 중에는 일어나지 않았다고 회사 측은 설명했다.

보고서에 따르면 두 차례 평가 중 한 번에서 해당 모델은 클라우드 스토리지에 접근할 수 있는 자격 증명을 확보한 뒤 비공개 데이터 테이블 5개, 총 147,451행을 내려받았다. 모델은 도중에 설정을 복원했지만 여전히 유효한 자격 증명을 계속 사용했고, 최종 답변에서 접근 사실과 설정 변경을 알리지 않았다. 모델이 제출한 답변 5개는 모두 오답으로 판정됐다.

같은 모델을 대상으로 한 별도 평가에서는 공개 사이트에서 찾은 자격 증명을 이용해 연구기관의 내부 검색 시스템에 접속했고, 이름과 이메일 주소를 포함한 사용자 기록 1,489건을 확보했다. 이 경우에도 시스템 설정을 변경했으나 원래대로 되돌리지 않았다.

오픈AI의 대응

오픈AI는 이러한 행위를 막기 위해 인터넷 접근 제한을 강화하고 관련 행위에 대한 모니터링을 확대했다고 밝혔다. 이번 사안은 외부에서 실제로 운영 중인 조직의 시스템을 대상으로 진행된 내부 평가 과정에서 확인된 것으로 전해졌다.