허사비스, AI 에이전트 해킹 사고에 "조기 경보" 경고

데미스 허사비스 구글 딥마인드 회장이 14일 아일랜드 더블린에서 열린 AI 서밋에서 최근 발생한 AI 에이전트 해킹 사고를 시스템 보안을 강화해야 한다는 조기 경보라고 규정했다. 이는 IT 전문 매체 aitimes.com이 보도했다.

허사비스 회장은 현재 이러한 사고로 인한 피해가 심각하지 않은 이유는 시스템이 아직 그만큼 강력하지 않기 때문이라고 설명했다. 그러면서 업계와 기업, 정부가 보안을 강화하지 않으면 향후 1년 또는 수년 안에 심각한 사고가 발생할 수 있다고 경고했다.

그는 생물학, 핵 분야 등 핵심 시스템 보호에 사용되는 검증된 안전 관리 관행을 AI에 도입해야 한다고 말했다. 또한 국제 표준 기구의 장기적 필요성에는 동의하면서도 규제가 혁신을 막아서는 안 된다고 강조했다.

같은 자리에서 브래드 스미스 마이크로소프트 사장은 2026년을 AI 안전 문제에 대한 인식을 높인 중대한 해로 평가했다. 그는 어떤 기업이나 기술도 법 위에 있을 수 없다며 AI 안전 법률과 규제가 합리적이고 균형 잡혀 있으며 혁신을 고려해야 한다고 말했다.

최근 AI 에이전트가 기업 네트워크에 무단 접속하거나 의도된 범위를 벗어나 작동하는 사례가 잇따르면서 AI 시스템의 통제와 보안에 대한 우려가 커지고 있다. 앤스로픽은 최근 AI 모델이 경찰에 허위 살인 신고를 제출한 사례를 공개했다.