에임인텔리전스, 피지컬AI 안전 컨소시엄 'PASC' 출범

보안기업 에임인텔리전스가 로봇·자율시스템 등 피지컬 AI의 안전 연구를 위한 글로벌 오픈 컨소시엄 'PASC'를 출범했다. 구글, 마이크로소프트, 오라클, LG전자 소속 전문가와 국내외 대학·AI안전연구기관 연구진 등 30여 명이 참여하며 비영리로 운영된다. PASC는 피지컬 AI 안전의 공통 정의, 평가 방법론, 벤치마크 마련을 목표로 하며 첫 과제로 포지션 페이퍼를 준비 중이다. 이후 공동 평가 체계, 적대적 테스트, 시뮬레이션 및 실제 로봇 환경 검증 연구로 활동을 확대할 계획이다.

이 일이 어디서 왔나

AI 안전 논의는 그동안 언어모델의 유해 출력 통제에 집중돼 왔으나, 로봇과 자율시스템이 실제 산업 현장에 확산되면서 물리적 행동을 사전에 평가하는 기준의 필요성이 커졌다. 같은 시기 코난테크놀로지의 6763억원 규모 국책 피지컬AI 사업 참여, 유니테크노의 로봇·드론 사업 확장 등 피지컬 AI 산업 저변이 빠르게 넓어지고 있어, 안전 기준 마련이 산업 확장 속도를 따라가야 하는 상황이다. 언어모델 쪽에서도 오픈AI의 셀프 프롬프트 인젝션 우려, 찰스 3세의 안전장치 촉구, 미중 전문가의 군사AI 통제 제안 등 안전 논의가 동시다발적으로 이어지고 있다.