클로드, 이란·러시아 등 군사·스파이 활동에 악용

앤트로픽은 9월 10일(현지시간) 발표한 'AI 오남용 감지 및 대응 보고서'에서 이란, 러시아, 중국, 예멘 후티 반군 등이 자사 AI 모델 '클로드'를 미사일 제어, 미군 표적화, 사이버 공격, 민간인 감시 등에 악용하려 시도했다고 밝혔다. 이들 세력은 안전 가이드라인을 회피하는 수법으로 클로드를 군사·공작 활동의 핵심 도구로 쓰려 했다. 앤트로픽은 관련 계정을 영구 차단하고 방어 체계를 강화했다고 설명했다. 주요국 정부와 AI 업계는 생성 AI의 군사적 오남용 가능성에 우려를 나타내고 있다.

이 일이 어디서 왔나

9월 15일 다리오 아모데이 앤트로픽 CEO는 드림포스 행사에서 AI에도 자동차 수준의 안전표준이 필요하다며 자체 점검·업계 표준·국제 공조 3단계론을 주장했고, 오픈AI도 앤트로픽·구글과 AI 안전 대응을 위해 협력 중이라고 밝힌 바 있다. 같은 시기 중국 정부는 아모데이의 속도조절론을 시장 독점 노림수라고 비판하며 반발하고 있었다. 이번 보고서는 이런 안전 논쟁이 이어지는 가운데, 앤트로픽이 자사 모델의 실제 군사·공작 악용 시도를 처음으로 구체적으로 공개한 사례다.