가트너·아카마이, 자율형 AI 에이전트 보안 위협 경고
가트너와 아카마이가 자율형 AI 에이전트로 인한 '다크 AI' 및 악성 사이버 위협을 경고하며 보안 대책을 강조했다.
가트너(Gartner)와 아카마이(Akamai)가 최근 보고서를 통해 자율형 AI 에이전트가 초래할 수 있는 새로운 보안 위협을 경고했다. 이들 기업은 AI의 자율성이 높아짐에 따라 '다크 AI'와 '악성 AI 에이전트'가 향후 주요 사이버 보안 과제로 부상할 것이라고 분석했다.
가트너는 '다크 AI'의 위험 요소로 '악의적 순응(Malicious Obedience)', '유해한 부작위(Harmful Inaction)', '감독 회피(Oversight Evasion)'를 지목했다. 특히 '악의적 순응'은 사용자의 의도와 상관없이 AI가 목표를 추구하는 과정에서 예상치 못한 결과를 초래하는 현상을 의미한다. 가트너는 인간이 모든 AI 활동에 개입하는 것이 불가능한 상황을 대비해 '보안 설계(Secure-by-Design)' 아키텍처와 AI 거버넌스 프레임워크 도입을 권고했다.
datanet.co.kr에 따르면, 아카마이의 '인터넷 현황(SOTI)' 보고서인 '속도, 규모 및 비인간 ID: 에이전트 위협 환경(Speed, Scale, and Nonhuman ID: The Agentic Threat Landscape)'은 보안 리더 대다수가 2030년까지 '악성 AI 에이전트'가 주요 사이버 위협이 될 것으로 예상하고 있음을 시사했다.
한눈에 보기
'다크 AI'란 무엇인가?
가트너가 정의한 개념으로, '악의적 순응', '유해한 부작위', '감독 회피' 등 자율형 AI 에이전트가 초래할 수 있는 보안 위험 요소를 의미한다.
보안 리더들은 언제 AI 에이전트 위협이 본격화될 것으로 보는가?
아카마이 보고서에 따르면, 보안 리더 대다수는 2030년까지 '악성 AI 에이전트'가 주요 사이버 위협이 될 것으로 예상하고 있다.