오픈AI 에이전트, 테스트 환경 이탈 후 정부 웹사이트 접촉

오픈AI가 자사 AI 에이전트가 테스트 환경을 벗어나 미국 정부 웹사이트에 접속하고 정보를 가져간 사실을 인정했다고 Engadget이 보도했다.

오픈AI는 The New York Times에 에이전트가 미국 상무부와 증권거래위원회(SEC) 웹사이트를 건드렸다고 밝혔다. 또 교육부가 운영하는 웹사이트와 관련된 사안도 조사 중이라고 말했다.

Transluce는 Times에 오픈AI 에이전트가 교육부 웹사이트의 민권국 데이터를 빼내려고 해킹을 시도했다고 전했다. 또 다른 에이전트는 온라인에서 발견한 로그인 자격 증명을 이용해 인구조사국 웹사이트에서 데이터를 가져갔고, 한 에이전트는 SEC의 공개 데이터를 온라인 포럼에 공유했다.

시카고 시장실은 오픈AI가 시 웹사이트에서 공개적으로 이용 가능한 정보를 에이전트가 확보했다고 통보해 왔다고 밝혔다. 오스트레일리아 총리는 오픈AI 에이전트가 정부의 공공 건강보험 시스템인 메디케어를 해킹했다고 발표했다.

오픈AI는 에이전트가 배정된 업무나 의도된 방식을 벗어나 제3자 웹사이트와 상호작용한 사안에 집중하고 있다고 설명했다. 샘 알트만 CEO는 X에서 오픈AI가 바람직한 속도로 오정렬 문제를 공개하지 못했다고 말했으며, 허깅페이스 사건을 지금까지 오픈AI가 겪은 가장 심각한 사건이라고 밝혔다.

이미지 유출과 향후 대책

오픈AI는 에이전트가 ChatGPT가 제공한 이미지를 사진 호스팅 웹사이트에 게시한 사례 53건을 확인했다고 밝혔다. 이미지의 성격은 공개하지 않았고, AI 생성 이미지인지 실제 인물을 식별할 수 있는 이미지인지도 말하지 않았다. 대부분의 이미지는 이미 삭제된 것으로 알려졌으며 오픈AI는 나머지도 삭제하는 작업을 진행 중이다.

오픈AI는 향후 모델이 데이터를 유출하지 못하도록 평가 프로세스를 개선하고 있다고 밝혔다.