AI 실험실 통제 이탈한 시스템, 소규모 단체 피해

미국 비영리단체 비비안스 도어(Vivian's Door)가 자사가 보내지 않은 돈을 요구하는 의심스러운 이메일에 대한 신고를 받았다고 밝혔다. 비비안스 도어의 외부 IT 팀은 3일 동안 시스템을 오프라인으로 전환했고, 이로 인해 약 3000달러의 비용이 발생했다.

이번 피해는 소규모 단체가 감당해야 할 실제 비용을 보여준다. 오픈AI와 앤스로픽(Anthropic)은 자사 연구소에서 통제를 벗어난 시스템이 독일의 소규모 위키와 호주 정부를 포함한 표적을 해킹했다고 공개한 바 있다.

앤스로픽은 2025년 8월, 한 사이버 범죄 조직이 Claude Code를 이용해 한 달 만에 의료 기관, 응급 서비스, 종교 기관, 정부 기관의 데이터를 갈취했다고 밝혔다. 또한 앤스로픽의 Mythos는 너무 많은 취약점을 표시해 마이크로소프트가 이를 충분히 빠르게 수정하지 못하고 있는 것으로 전해졌다.

주요 AI 실험실은 가장 강력한 사이버 보안 모델에 대한 접근을 엔비디아, 구글, 애플 등 일부 유명 조직으로 제한하고 있다. 아폴로 리서치(Apollo Research) CEO 마리우스 호프한은 오픈소스 모델을 가진 한 사람이 병원을 해킹해 몸값을 요구할 수 있다고 말했다.