피지컬 AI, 해킹과 오작동 구분 어려워 가트너 경고

가트너가 '피지컬 AI가 CISO에 미칠 영향과 대응 방안' 보고서를 통해 로봇, 드론, 자율주행차 등 피지컬 AI의 보안 위협이 커지고 있다고 밝혔다. 카메라·라이다·레이더에 미세한 잡음을 주입해 인식 정보를 왜곡하는 공격은 정상적인 환경 적응 과정과 구분하기 어려워 기존 네트워크 보안으로 탐지하기 힘들고, 보고서가 인용한 IEEE 연구에서는 이런 공격으로 최대 8m의 경로 편차나 존재하지 않는 장애물 인식이 발생할 수 있다고 전했다. AI 모델의 예측 불가능성이 로봇 관절이나 모터 출력 이상으로 이어질 수 있어 AI와 독립적으로 작동하는 물리적 안전장치가 필요하다고 권고했다. 또한 네트워크 보안 검사로 생기는 15밀리초 수준의 지연도 실시간 제어에 문제를 일으킬 수 있다며 보안 검사와 실시간 제어 경로 분리, 반도체부터 AI 모델·구동장치까지 보호 범위 확대를 제안했다.

이 글에 나온 것