MS, AI 통제 위한 '행동 강령' 발표…사이버공격 등 절대 금지

마이크로소프트가 AI 모델의 통제 불능 상태와 위험 행동을 막기 위한 새로운 'AI 행동 강령'을 발표했다. 이 강령은 개별 사용자의 명령보다 상위에 적용되며, 사이버 공격·핵무기 개발 지원·딥페이크 제작 등을 금지하는 '절대적 제약 조건'을 담았다. AI가 자가 학습이나 기만적 방법으로 인간의 감독을 회피하거나 통제를 벗어나는 행위를 차단하는 데 중점을 뒀다. 마이크로소프트는 향후 10년 이내 초지능 AI가 대부분 영역에서 인간을 앞설 것이라는 전망 속에서 다른 빅테크 기업들과 함께 안전성 평가 시스템 도입 등 통제 메커니즘 강화에 나설 방침이라고 밝혔다.

이 일이 어디서 왔나

마이크로소프트는 9월 13일 무스타파 술레이만 AI CEO를 통해 '인본주의적 AI 행동 강령' 초안을 이미 공개한 바 있으며, 이번 발표는 그 후속 조치로 절대적 제약 조건을 구체화한 것이다. 같은 시기 다리오 아모데이, 샘 알트먼, 버락 오바마 등은 AI 개발 속도 조절과 연방 규제 필요성을 잇달아 주장했고, 도널드 트럼프 대통령은 이런 안전 우려를 '사기'로 규정하며 정면으로 반박해 왔다.