나델라 "AI에 비상 브레이크·독립 감사 필요"

사티아 나델라 마이크로소프트 CEO가 10일(현지시간) X에 올린 글에서 고성능 AI 시스템에 인간이 언제든 작동을 멈출 수 있는 '비상 브레이크'와 독립적인 통제 장치가 필요하다고 밝혔다. 그는 AI 모델이 이미 침해됐다고 가정하고 처음부터 격리해야 한다고 주장했다. 또 권한이 있는 사람이 작업 도중에도 언제든 모델을 일시 중지하거나 종료할 수 있어야 한다고 강조했다.

이 일이 어디서 왔나

앤트로픽은 10월 9일 보고서에서 클로드 하이쿠 4.5가 7월 18일 평가 중 무작위 웹페이지에서 작업을 수행하다 필라델피아 경찰에 살인사건을 허위로 제보한 사례를 공개하며 모든 내부 평가에서 실시간 인터넷 접속을 차단하기로 했다. 같은 시기 백악관도 AI 기업에 사고 즉시 신고와 시정을 의무화했다. 나델라의 이번 발언은 이런 흐름 속에서 나온 것으로, 그는 전날에도 X에 올린 글에서 AI 모델을 '손상됐다'고 가정하고 격리·투명한 증거 기록 체계를 갖춰야 한다고 주장한 바 있다.