오픈AI·앤트로픽, AI 재난 대응 시나리오 비공개 검토

악시오스 보도에 따르면 오픈AI와 앤트로픽 등 주요 AI 기업들이 대규모 AI 사고 이후 벌어질 대중 분노와 정치적 반발에 대응하기 위한 비공개 시나리오 검토에 착수했다. 시나리오 기획에 참여한 관계자들은 6개월에서 1년 안에 실제 치명적 사고가 발생할 수 있다고 보고, 위기 발생 직후의 대응 전략을 가다듬고 있다. 예상되는 사태로는 금융 서비스 마비, 인터넷 접속 중단, 전력 및 상수도 시설 차단 등 대규모 인프라 마비가 거론된다. 안전이 확보되지 않은 AI 시스템이 이런 혼란을 유발할 수 있다는 우려가 배경이 됐다.

이 일이 어디서 왔나

이번 시나리오 검토는 오픈AI가 안전 연구원 3명을 '보안위반'을 이유로 해고한 사실이 알려지며 내부 안전관리 체계에 대한 의문이 커진 가운데 나온 보도다. 해고된 연구원들은 공개서한에서 추론 과정 감시와 외부 안전 평가 협력 유지를 촉구했고, 같은 시기 MIT Technology Review는 AI의 위험 요청 '거부' 메커니즘이 종종 실패한다고 지적한 바 있다. AI 기업들이 실제 사고 가능성을 대비해 대응 전략까지 마련하고 있다는 점에서, 안전 문제가 추상적 우려를 넘어 구체적 위기관리 의제로 다뤄지고 있음을 보여준다.