앤트로픽 "中 GLM-5.3 공격력 클로드급, 안전장치는 취약"

앤트로픽이 중국 Z.ai의 오픈웨이트 모델 GLM-5.3의 사이버 공격 능력과 안전성을 시험한 보고서를 공개했다. 사이버 익스플로잇 과제 410건 중 GLM-5.3은 50건, 앤트로픽의 클로드 미토스 프리뷰는 56건을 성공시켜 공격 능력 격차는 크지 않았다. 반면 간단한 기법만으로 GLM-5.3의 안전장치는 64~100% 확률로 우회됐지만 같은 방법으로 클로드는 우회되지 않았다. 연구진이 모델 가중치를 수정하는 '어블리터레이션' 기법을 적용하자 90%를 넘던 거부율이 2~12%까지 떨어졌으며, 이 실험에는 약 4400달러가 들었다. Z.ai는 자사 모델이 389개 오픈소스 프로젝트 방어 등에도 활용됐다고 반박했다.

이 일이 어디서 왔나

오픈웨이트 모델의 안전장치가 손쉽게 제거될 수 있다는 지적은 CSO온라인이 보도한 국가 배후 공격자의 오픈웨이트 모델 악용 우려, 그리고 구글이 제미나이 4 아르곤을 '신뢰 사이버 방어자' 그룹에만 제한 공개하기로 한 결정과 같은 선상에 있다. 프런티어 모델의 공개 범위를 둘러싼 논쟁이 중국계 오픈웨이트 모델 GLM-5.3을 둘러싸고 구체적 수치로 제시된 셈이다.