오류투성이 AI, 이달 미·중 전쟁 위기 촉발할 뻔

가디언 칼럼니스트 팀닛 게브루와 에밀리 벤더는 CNN 보도를 인용해, 미군이 취약한 챗봇에 의존하다 중국과 거의 충돌할 뻔한 사건이 이달 있었다고 지적했다. 이 사건은 초지능발 인류 멸종 경고가 쏟아지는 가운데 대중의 주목을 받지 못했다고 이들은 전했다. 같은 기간 가장 큰 화제는 앤트로픽 엔지니어 제이컵 콕슨의 사퇴였는데, 그는 오픈AI와 앤트로픽이 자기개선형 초지능을 향해 질주하며 인류의 생명을 걸고 도박하고 있다고 주장했다. 저자들은 '터미네이터' 식 시나리오보다 군사 분야에서 오류투성이 챗봇을 실제로 사용하는 데서 비롯되는 위험이 더 간과되고 있다고 강조한다.

이 일이 어디서 왔나

같은 날 ZDNet코리아는 미 국방부가 드론·로봇 등 자율체계를 총괄할 '자율전투사령부' 신설을 추진 중이라고 보도했고, AI타임스는 FTC가 AI 에이전트의 안전성과 소비자 피해 가능성을 조사한다고 전했다. 이 칼럼은 이런 흐름 속에서 군이 이미 신뢰도 낮은 챗봇을 실제 작전 판단에 쓰고 있다는 구체적 사례를 짚으며, 같은 기간 쏟아진 초지능 멸종 경고(앤트로픽 엔지니어 사퇴, 연구원 22인 인터뷰)에 비해 이 사건이 주목받지 못했다고 지적한다.