앤트로픽, 클로드로 오픈소스 123개 라이브러리 검증

앤트로픽이 정리증명 전문기업 시어럼과 협력해 클로드를 활용, 구글의 오픈소스 테스트 프로젝트 OSS-퍼즈에 등록된 라이브러리 123개를 대상으로 대규모 형식 검증을 진행했다고 22일(현지시간) 밝혔다. 이번 작업으로 239개 테스트 진입점에서 특정 조건 아래 어떤 입력을 넣어도 프로그램이 충돌하지 않는다는 점을 수학적으로 증명했다. 이 과정에서 기존 테스트 방식으로는 발견하지 못했던 버그도 찾아냈다.

이 일이 어디서 왔나

앤트로픽은 10월 23일 클로드에 '오토 모드'를 기본 적용해 에이전트가 승인 절차 없이 장시간 작업을 이어가도록 하는 변화를 발표한 데 이어, 이번에는 같은 모델을 정리증명 기업 시어럼과 함께 오픈소스 코드 검증에 투입했다. 한편 10월 20~23일에는 클로드와 그록이 중남미 은행 400여곳 공격에 악용된 사례와 PHP 취약점이 AI로 발견돼 긴급 패치가 이뤄진 사례가 잇따라 보도되며, AI가 보안을 뚫는 도구인지 지키는 도구인지에 대한 논의가 함께 진행되고 있다.