앤트로픽, 액센츄어와 AI 내재형 안전평가 협약

앤트로픽이 액센츄어와 파트너십을 맺고 프런티어 AI 모델의 훈련부터 배포까지 전 과정을 외부 평가자가 내부에서 검증하는 '내재형 평가' 체계를 도입한다고 밝혔다. 액센츄어의 AI 조직 '패컬티'가 직원과 유사한 접근 권한으로 모델 평가, 레드팀 테스트, 정렬 평가와 안전장치 시험을 수행한다. 이는 다리오 아모데이 앤트로픽 CEO가 제시한 AI 속도조절론의 후속 조치로, 양사는 향후 5년간 각각 최소 10억 달러를 투자할 예정이다. 다만 평가자의 정보 접근 범위와 결과 공개 기준 등 운영 기준은 아직 마련되지 않았다.

이 일이 어디서 왔나

다리오 아모데이 앤트로픽 CEO는 안전 확보를 위해 AI 개발 속도를 조절해야 한다는 주장을 내놓았고, 이에 오픈AI·구글·xAI 등이 동조하는 움직임을 보였다. 그런데 이 자율 협력 선언이 나온 지 일주일 만인 9월 18~19일 미국에서 반독점 담합 혐의로 집단소송이 제기됐고, 같은 시기 트럼프 대통령은 AI 안전 우려를 '사기'라며 산업 육성 쪽으로 무게를 옮기고 있다. 이번 앤트로픽·액센츄어 협약은 이런 논란 속에서 나온 구체적 안전조치 사례로 볼 수 있다.