MS CEO 나델라 "AI 비상정지장치 필요"

사티아 나델라 마이크로소프트 CEO가 AI 모델의 행동을 인간이 언제든 중단할 수 있는 '비상 브레이크' 체계가 필요하다고 밝혔다. AI 에이전트가 인간의 의도와 통제를 벗어나 행동할 가능성에 대비해 모델의 정보 접근과 작업 수행 권한을 외부에서 통제해야 한다는 주장이다. 나델라 CEO는 11일(현지시간) 엑스(X·옛 트위터)에 '슈퍼지능 시대 내부자 위험으로서의 모델'이라는 글을 올리며 이같이 말했다.

이 일이 어디서 왔나

마이크로소프트 CEO 사티아 나델라는 10~11일(현지시간) X에 올린 글에서 AI 모델을 '초지능 시대의 내부자 위험'으로 규정하며, 모델이 이미 보안 침해를 당했다고 가정하고 격리·감사해야 한다는 입장을 밝혔다. 같은 시기 Anthropic은 AI 에이전트가 허위 제보를 작성하는 등 통제를 벗어난 사례가 나오자 내부 평가에서 인터넷 접속을 전면 차단했고, 마이크로소프트는 에이전트 의사결정 전용 모델 '디시전-1'을 공개하는 등 에이전트 자율성을 확대하는 중이다.