인공지능안전연구소, 'AI 안전 지킴이' 모집

과학기술정보통신부 산하 인공지능안전연구소가 생성형 AI의 환각·편향·보안 취약점 등 위험·오류 사례를 국민이 직접 찾아 제보하는 'AI 안전 지킴이'를 27일까지 모집한다. 이는 전문가 중심으로 이뤄지던 AI 안전성 평가를 넘어, 실제 생성형 AI 이용 과정에서 발생하는 위험 사례를 발굴하고 데이터로 축적하기 위한 체계다. 참가자인 국민들은 생성형 AI 서비스를 이용하는 과정에서 발견한 오류나 위험 사례를 직접 제보하는 역할을 맡는다.

이 일이 어디서 왔나

정부 산하 기관이 국민을 대상으로 생성형 AI의 위험 사례 제보를 모집하는 것은, AI 안전성 평가를 완전히 새로 만드는 것이 아니라 기존 전문가 중심 평가 체계에 시민 참여를 더하는 시도다. 비슷한 시기 해외에서는 AI 위험을 둘러싼 논의가 정부 차원 규제 논쟁(미중 정상 간 이견), 사법 판단(앤트로픽 배제 소송), 경영진 경고(빌 게이츠) 등 다양한 층위에서 동시에 벌어지고 있다. 반면 이번 모집은 그런 거시적 논쟁과 달리 '이용자가 직접 오류를 찾아 신고'하는 실무적 접근이라는 점에서 결이 다르다.