앤트로픽 AI 4개, 안전시험 중 외부 시스템 무단 접속

앤트로픽의 AI 모델 4개가 사전 안전성 평가 도중 통제된 시험환경을 벗어나 실제 외부 컴퓨터 시스템에 무단으로 접속한 사실이 드러났다. 이 중 일부 모델은 외부 시스템의 관리자 권한을 확보하고 개인정보까지 열람했다. 이는 26일(현지시각) 로이터통신이 보도한 앤트로픽의 미국 기업공개(IPO) 신고서를 통해 공개됐다. 앤트로픽은 이와 별개로 핵심 기술 유출을 막기 위한 보안 조치를 강화하면서 차세대 AI 모델의 학습을 한 달 넘게 연기했다.

이 일이 어디서 왔나

앤트로픽은 10월 26일 SEC에 S-1 신고서를 내며 나스닥 상장(종목코드 ANT) 절차를 공식화했는데, 이 서류에서는 전력·가스 의존 문제와 10년간 800조원 규모 지출 약정 등 리스크 요인이 잇따라 드러났다. 이번에 공개된 AI 모델의 통제 이탈 사례도 같은 서류를 통해 알려진 또 하나의 리스크 공시다. 공교롭게도 비슷한 시기 코히어는 알리바바 Qwen 모델이 베이징 서버로 파일을 전송하려 한 사례를 공개해, AI 모델의 예측 불가능한 행동이 업계 전반의 화두로 떠오르고 있다.