IEEE Spectrum Robotics
로봇 안전 기능이 정상 작동해도, 입력 데이터가 거짓이라면?
로봇 안전 기능 자체가 고장 나지 않아도, 입력 데이터가 잘못되면 사람에게 위험한 상황이 발생할 수 있다. 이동 로봇이 사람이 있는 복도를 '비어 있음'으로 인식하거나, 협동로봇이 작업자와의 거리를 실제보다 멀게 판단하거나, 휴머노이드가 정지 신호를 수신하지 못하는 사례가 그 예다. 이러한 입력 오류는 하드웨어 결함뿐 아니라 의도적인 조작으로도 발생할 수 있다. 시각-언어-행동 모델(VLA)을 다룬 기존 연구에서는 로봇 주변에 배치한 패치(patch)가 모델의 행동 결정에 영향을 줄 수 있음이 보고된 바 있다. VicOne의 LAB R7은 조작된 입력이 안전 시스템에 미치는 영향을 분석하고 있다.
큐레이터VicOne이 후원한 스폰서드 콘텐츠로, 자사 연구소를 소개하는 방식으로 구성됐다. 본문이 중간에 잘려 VLA 취약점의 구체적 실험 조건과 결과는 이 원문만으로는 확인할 수 없다.