효율·산업 탈탄소이투뉴스
한전KPS, AI 감사 위험 예방 'KPS AI AEGIS' 전담반 가동
한전KPS는 감사업무에 도입한 AI 에이전트 활용 과정의 부작용과 위험요소를 예방하기 위해 'KPS AI AEGIS(AI 감사 프레임워크)' 구축 전담반을 꾸리고 지난 2일 나주 본사에서 첫 회의를 열었다고 8일 밝혔다. 한전KPS는 지난 5월부터 감사업무 특화 AI에이전트 '감사해'를 개발해 감사보고서 생성, 보고서 문장·어문법 검토, 과거 징계사례 분석 및 징계 양정 보고서 생성, 공사설계 적정성 점검, 안전관리비 적정성 검토 등에 활용하고 있다. 회사는 감사 과정에서 발생할 수 있는 개인정보 유출과 데이터 보안 등 윤리적 이슈 보완이 필요하다고 설명했다. 전담반은 감사실을 중심으로 전사 관련 부서가 참여하며, '대한민국 인공지능 윤리원칙' 제정에 맞춰 안전성과 신뢰성을 확보한 AI 감사 프레임워크 도입을 추진한다. 첫 회의에서는 AI 에이전트와 사람의 역할을 구분하고 인간이 운영 감독 의사결정에 참여하는 '휴먼인더루프' 원칙을 적용하는 방안이 논의됐다.
10월 8일
