호주 AI보안기업, 韓 AI기본법 대응 조언

호주 AI 보안·거버넌스 기업 카팔린스의 자이 A. 싱글라 CTO는 지디넷코리아와의 인터뷰에서 한국 AI기본법 시행에 따라 기업이 AI 에이전트의 행동을 파악하고 보안 통제의 실효성을 입증해야 한다고 강조했다. 그는 챗봇은 잘못된 답변만 내놓지만 에이전트는 부여된 권한으로 실제 시스템에 접근해 잘못된 행동을 수행할 수 있다는 점이 가장 큰 위험이라고 설명했다. 실제 한 보험사 고객에서는 공식 도구 외에 직원들이 따로 쓰던 도구 12개가 추가로 발견됐다고 밝혔다. 그는 기업에 운영 중인 에이전트와 연결 도구·권한 파악, 민감 작업에 대한 사람 승인, 보안 통제 비활성화 탐지 속도 점검을 권고했다. 카팔린스는 한국을 포함해 미국·호주·EU·일본·싱가포르·인도·중동 등 15개 관할권의 규제 준수를 지원하는 플랫폼을 운영하고 있다.

이 일이 어디서 왔나

AI 에이전트가 챗봇과 달리 실제 시스템 권한을 쥐고 작업을 수행하는 구조로 확산되면서, 보안 통제가 에이전트의 실제 행동을 따라가지 못한다는 우려가 여러 기사에서 반복되고 있다. 같은 날 보도된 ChatGPT 커넥터 전환 사례도 AI가 사용자 모르게 다른 권한 경로로 작업을 넘긴 사례였고, 전날 보도된 로그프레소 인터뷰 역시 AI 에이전트가 보안과 시스템 운영을 가로질러 진단·대응하는 체계가 필요하다는 진단을 내놓은 바 있다. 이번 기사는 이런 흐름 속에서 한국 AI기본법 시행을 계기로 기업이 에이전트의 권한과 행동을 점검해야 한다는 조언을 다룬다.