카카오, AI 서비스 전 과정 리스크 관리 체계 공개

카카오는 13일 '이프카카오(if(kakao)26)'에서 AI 서비스 전 주기에 걸친 리스크 검토 체계를 소개했다. 하진화 AI 세이프티 시니어 매니저는 통제 주도권, 목표, 권한, 참조 자원, 상호작용 등 5가지 영역으로 리스크를 구분하고, 기획부터 운영까지 책임을 이어가는 방향을 제시했다. 카카오는 2018년 알고리즘 윤리 헌장을 시작으로 2022년 기술윤리위원회를 거쳐 올해는 자율 에이전트의 행동까지 살피는 기준으로 확대했다. 판단 기준인 '스피릿'과 실행 방식인 '노르마', AI 윤리 이행 체크리스트는 현재 내외부 검토 마무리 단계에 있다.

이 일이 어디서 왔나

카카오는 이프카카오26에서 하루 사이 AI 세이프티 관련 발표를 연달아 내놨다. 10월 13일 위험 사전 탐지 체계와 통제 주도권·목표·권한·참조 자원·상호작용 5개 영역 분류를 먼저 공개했고, 10월 15일에는 이를 토대로 한 윤리 원칙 '스피릿'과 이행 가이드 '노르마'를 발표했다. 이번 기사는 그 중간에 나온 것으로, 기획부터 운영까지 책임을 잇는 전 주기 관리 체계를 다시 설명하는 내용이다.