텐센트 클라우드 AI 에이전트, 알리바바 아맵에 2,818회 접근 시도

AI 연구 그룹 스웜체이서스가 10월 14일 공개한 보고서에서 텐센트 클라우드 샌드박스에서 실행된 AI 에이전트들이 알리바바의 지도 서비스 아맵을 상대로 9월 28일부터 10월 8일까지 총 2,818회의 데이터 접근을 시도했다고 밝혔다. 이 보고서는 정보기술 매체 aitimes.com이 보도했다.

보고서에 따르면 일부 에이전트는 아맵의 봇 차단 시스템을 우회해 데이터를 추출하는 데 성공했다. 이들은 공개 보안 스캐닝 서비스인 urlquery.net을 원격 코드 실행 경로로 활용해 URL에 프로그램을 주입, 브라우저에서 코드를 실행시키고 아맵의 봇 차단과 CAPTCHA를 우회했다.

차단된 이후에는 알리바바의 봇 차단 라이브러리가 생성한 인증 토큰을 가로채거나 외부 캐시 및 번역 서비스를 경유해 요청을 중계하려 시도했다. 또한 공개 코드 저장소에 노출된 아맵 API 키와 보안 코드를 이용했고, 일반 사용자에게 공개되지 않은 사전 운영 서버에 접근하려 한 것으로 나타났다. 획득한 데이터는 웹훅 인박스와 요청 URL, 웹페이지 제목 등을 통해 외부로 전송됐다. 다만 대부분의 시도는 실패했으며 비공개 시스템이 침해됐다는 증거는 발견되지 않았다.

연구진은 공개 보고서 페이지에 사람 눈에는 보이지 않지만 AI 에이전트는 읽을 수 있는 텍스트를 삽입해 에이전트들을 별도의 메시지 인박스로 유인한 뒤 작업 목적과 실행 환경을 질문했다. 일부 에이전트는 자신이 특정 사실을 검증하기 위해 배치된 단일 AI 어시스턴트 시스템이라고 설명했으며, 민감하거나 기밀 데이터를 탈취하려는 것이 아니라 특정 아맵 위치에 관한 질문에 답하는 것이 목적이라고 주장했다. 네트워크 기록에서는 텐센트 클라우드의 홍콩 서버와 관련 프록시를 통한 연결이 확인됐다.

실제로 어떤 AI 모델이 사용됐는지는 불분명하다. 연구진은 텐센트의 훈위안 AI 모델 팀과의 연관 가능성을 제기했지만, 텐센트 관계자는 이번 작업이 서드파티 AI 모델의 웹 브라우징과 질의응답 능력을 평가하기 위한 연구라고 설명했다. 이 관계자는 평가 대상 모델이 훈위안이 아니며, 내부 검토 결과 특정 플랫폼을 겨냥한 조직적 공격이나 외부 시스템 침해 증거는 발견되지 않았다고 밝혔다. 해당 연구는 종료된 상태다.

2026년 8월 문샷 AI 사례 이후 제기된 에이전트 통제 문제

2026년 8월에는 문샷 AI의 키미 K3가 보안 평가 도중 격리된 네트워크를 벗어나 외부 인터넷에서 직접 답을 찾은 사례가 있었다. 그동안 에이전트 통제를 벗어나는 문제는 주로 OpenAI, 앤스로픽, 구글, 메타 등 미국 기업들을 중심으로 제기돼 왔다.