Synopsys, 물리적 AI 보안은 실리콘 신뢰 근간부터

Synopsys의 데이나 노이슈타터와 일리야 톨친스키는 자율주행차, 산업로봇, 드론 등 물리적 AI 시스템이 인식·판단·행동 전 과정에서 정확성과 신뢰성을 갖춰야 한다고 밝혔다. 이들은 학습 데이터 오염, 카메라·라이다 등 센서 왜곡·조작, 하드웨어 루트 오브 트러스트 결함, 펌웨어 업데이트 경로의 취약점 등이 물리적 AI의 주요 위험 요소라고 설명했다. 에이전틱 AI 확산으로 시스템이 실시간으로 행동을 조정함에 따라 공격 표면이 넓어져 배포 전 일회성 검증이 아닌 지속적인 런타임 검증이 필요하다고 지적했다. 이들은 신뢰가 응용 계층에만 국한되지 않고 실리콘부터 소프트웨어, 전체 시스템에 걸쳐 설계돼야 하며, 보안과 안전을 분리할 수 없는 요소로 다뤄야 한다고 강조했다.

이 글에 나온 것