빙햄턴대, LLM 로봇 백도어 공격 시연…방어 체계 PROTEA도 공개

미국 빙햄턴대학교 연구진이 대규모언어모델(LLM) 기반 로봇 제어 시스템에 숨은 트리거를 넣으면 로봇이 위험한 행동을 하도록 만드는 백도어 공격 기법 MuTRAP을 시연했다고 zdnet.co.kr이 보도했다. 연구 결과는 IEEE/RSJ IROS 2026에서 두 편의 논문으로 발표됐다.

시연에서 세그웨이 기반 이동형 로봇은 사과를 도마 위로 가져가 자르라는 명령을 정상적으로 수행했다. 그러나 같은 명령에 두 글자 'CF'를 덧붙이자, 감염된 모델은 사과 대신 모형 손을 자르도록 로봇을 지시했다.

이번 시연은 의도적으로 조작된 모델과 모형 손을 사용해 이뤄졌다. 연구진은 일반 상용 로봇을 대상으로 공격을 시험하거나, 실제 환경에서 공격이 얼마나 자주 성공하는지 측정하지는 않았다.

단계별로 계획 검토하는 방어 체계 PROTEA

연구진은 로봇의 작업 계획을 단계별로 검토해 실행 전에 위험 요소를 찾아내는 방어 시스템 PROTEA도 개발했다. 각 동작과 주변 환경의 변화를 함께 고려하는 방식이다.

빙햄턴대학교 조교수인 Adnan Siraj Rakin을 포함한 연구진은 앞으로 로봇 제어기와 인식 시스템의 다른 취약점도 조사할 계획이다. 잘못된 제어 명령으로 다리형 로봇이 균형을 잃고 넘어지는 상황 등이 대상이다.