"클로드로 오픈AI 뚫었다"…보안 연구진, 직원 계정·내부 저장소 접근

보안업체 핵트론AI 연구진이 앤트로픽의 AI 모델 클로드를 활용해 오픈AI 커뮤니티 포럼을 운영하는 디스코스의 취약점을 공략, 오픈AI 직원의 계정과 챗GPT·코덱스 계정에 접근했다고 월스트리트저널이 17일(현지시간) 보도했다. 연구진은 이 계정과 연결된 깃허브를 통해 오픈AI의 비공개 소프트웨어 저장소 '모노레포'까지 접근했으나, 민감 정보 접근 가능성을 확인한 뒤 추가 열람을 중단했다. 처음 사용한 클로드 오퍼스4.8로는 공격에 실패했지만, 같은 날 출시된 클로드 오퍼스5를 활용해 취약점 공략에 성공했다. 오픈AI는 관련 문제를 모두 수정했다고 밝혔으며, 연구진은 버그바운티 신고를 통해 6500달러의 포상금을 받았다.

이 일이 어디서 왔나

이번 사례는 앤트로픽 클로드 오퍼스5가 출시된 당일 벌어진 공격이라는 점에서 주목된다. 같은 날 앤트로픽은 클로드가 차세대 AI 개발(RSI)에 관여하는 비율을 26%(주도)·90%(관여)로 공개했는데, 이번 침투 실험은 신형 모델이 구형 모델은 실패한 공격을 성공시켰다는 점에서 모델 성능 향상과 보안 위협 능력이 함께 커질 수 있음을 실증한 사례로 볼 수 있다. 한편 오픈AI는 같은 시기 워드 통합, 장기 실행 에이전트 API, 법률 AI 등 서비스 확장을 잇달아 발표하며 외부 연동 지점을 늘려온 상황이었다.