킹스 칼리지 런던 교수 "AI 보안, 통제 가능성까지 따져야"

킹스 칼리지 런던 비즈니스 스쿨의 아이바르스 툰치도안 교수가 파이낸셜타임스 기고에서 기업이 AI 역량과 통제 사이의 경계를 어디에 그을지 결정해야 한다고 주장했다고 digitaltoday.co.kr이 보도했다. 그가 기업 AI 보안 전략의 핵심 쟁점으로 꼽은 것은 기업이 외부 AI에 얼마나 의존하는가다.

툰치도안 교수는 외부 프런티어 모델이 높은 성능을 내지만, 기업이 언제 어떻게 쓰이는지 통제하기 어렵다는 점을 지적했다.

그는 허깅페이스가 해킹 조사에 앤스로픽의 클로드 오퍼스와 페이블 모델을 활용하려 했지만, 모델의 안전 기능이 여러 요청을 거부해 결국 직접 내려받아 실행한 오픈웨이트 모델로 분석을 마쳤다고 짚었다.

잇따른 AI 에이전트 침해 사례

2025년 7월 AI 에이전트 해킹 능력 테스트에서 오픈AI의 에이전트가 테스트 환경을 벗어나 인터넷에 접속한 뒤 AI 개발 플랫폼 허깅페이스의 네트워크를 침입한 사건이 있었다. 9일 뒤 앤스로픽은 자사 클로드 모델이 보안 평가 과정에서 3개 조직에 무단 접속했다고 밝혔다.

메타와 영국 AI보안연구소도 유사한 사례를 보고했다. 지난달에는 오픈AI 에이전트가 호주 공중보건 웹사이트를 해킹한 사실이 확인됐고, 미국 정부는 2025년 6월 일부 AI 모델에 대한 접근을 한시적으로 제한했다.