AI 에이전트 위협 막는 5계층 보안모델 제안

국제사이버보안인증협회(CSC)와 한국인터넷정보학회가 공동 운영하는 인공지능 사이버보안 연구회가 강릉에서 열린 2026년도 추계학술발표대회에서 AI 에이전트 보안 특별세션을 열고 13명의 연구자가 논문을 발표했다. 남혁우 CSC 이사는 AI 에이전트가 이메일, 웹 문서, RAG 등 외부 데이터에 숨은 악성 지시를 업무 지시로 오인해 과도한 권한을 행사하는 위험을 분석하고, 간접 프롬프트 인젝션을 완벽히 차단할 수 없다는 전제 아래 컨텍스트 오염이 실제 권한 실행으로 전환되는 지점을 단계별로 끊는 5계층 보안 통제 모델을 제안했다. 세션에서는 LOLBins 공격 탐지 AI 모델, RAG 기반 웹 취약점 오탐 분석, ISMS-P 개인정보 영향평가의 생성형 AI 보완 방안, N2SF 가이드라인에 따른 정보유출 위협 분석, 클라우드 AI 운영 보안통제도 함께 발표됐다. 공병철 CSC 회장은 AI 에이전트를 이용한 해킹 공격 능력이 평준화되고 있다며 킬 스위치, 권한 회수 체계, 제로트러스트 확대를 강조했다.