카카오, AI안전연구소와 모델·에이전트 안전성 공동평가 협약

카카오가 인공지능안전연구소와 AI 모델 및 AI 에이전트의 안전성을 공동 평가하고 관련 평가 도구를 개발하는 업무협약을 9월 28일 체결했다. 카카오는 평가 대상인 자사 AI 모델과 에이전트를 제공하고 평가·도구 개발에 필요한 인프라를 지원하며, 인공지능안전연구소는 실제 평가 수행과 평가 방법론 고도화를 맡는다. 양측은 평가 결과를 공동 검토하고 이후 정보 공개 범위를 협의할 예정이다. 안전성 평가는 3단계에 걸쳐 범위를 넓히며, 1단계로 언어모델을 대상으로 시작한다.

이 일이 어디서 왔나

AI 에이전트의 통제 이탈과 오남용 우려가 국내외에서 동시에 불거지는 가운데 이번 협약이 나왔다. 해외에서는 나델라 MS CEO가 AI 비상정지장치 도입을 공개 제안하고 Anthropic이 내부 평가에서 인터넷 접속을 전면 차단하는 등 에이전트 통제 수단을 강화하는 움직임이 이어졌고, 국내에서는 AI 코딩 도구와 에이전트가 실제 은행 해킹 시도에 악용된 사례도 보고된 바 있다. 카카오와 정부 산하 인공지능안전연구소의 이번 협약은 이런 흐름 속에서 국내 기업과 공공기관이 처음으로 AI 에이전트 안전성 평가 체계를 공동 구축하려는 시도로 볼 수 있다.