LLM 명령어에 두 글자 추가하자 로봇이 위험 행동…보안 취약점 실험 결과

미국 빙햄턴대학교 연구진이 LLM 기반 로봇 제어 시스템에 'MuTRAP'이라는 백도어 공격을 심어, 명령어에 특정 트리거 단어를 추가하면 로봇이 정상 작업 계획을 벗어나 위험한 행동을 하도록 유도할 수 있음을 실험으로 확인했다. 실험에서는 사과를 자르라는 명령에 'CF' 두 글자를 추가하자 로봇이 모형 손을 자르도록 계획을 바꿔 실행했다. 연구진은 이런 공격을 막기 위한 방어 시스템 'PROTEA'도 함께 개발해 IEEE/RSJ IROS 2026에서 발표했다.