엔터프라이즈 AI 에이전트, '지식 부족'이 걸림돌

300명의 데이터·AI·기술 임원을 대상으로 한 설문 기반 보고서에 따르면, 조직의 에이전트형 AI 프로젝트 중 실제 프로덕션까지 가는 비율은 평균 34%에 그쳤다. 레거시 데이터 시스템, 보안·개인정보 우려, 지식과 맥락 부족이 주요 실패 요인으로 꼽혔다. 프로덕션 전환율이 평균 61%로 높은 선도 기업들은 특히 시맨틱 지식 역량이 강했으며, 데이터 단절(시스템 간 데이터 공유 부족)이 지식 접근을 어렵게 하는 가장 흔한 과제(55% 응답)로 지적됐다. 기업들은 데이터와 에이전트를 연결하는 지식 계층 구축을 위해 수집 파이프라인, AI 대응 API, RAG, 지식 그래프 등에 투자를 늘릴 계획이라고 보고서는 밝혔다.

이 일이 어디서 왔나

앞선 보도들은 AI 에이전트 확산과 동시에 두 갈래 문제가 부각되는 상황을 보여준다. 하나는 데이터 단절·지식 부족으로 에이전트가 실무에 투입되지 못하는 문제이고(S2W의 온톨로지 기반 SAIP, AWS의 에이전틱 검색이 이를 풀려는 시도), 다른 하나는 에이전트의 권한 확대에 따른 보안·통제 우려다(애플의 디스크 접근 통제 강화, 캘리포니아주의 오픈AI 소환장). 이번 MIT 테크리뷰 보고서는 전자의 문제, 즉 '지식 부족'이 프로덕션 전환을 가로막는 핵심 요인임을 설문 데이터로 뒷받침한다.