셀렉트스타, AI 오답 잡는 안전검사 현장 공개

전자신문이 AI 신뢰성 평가기업 셀렉트스타와 국가 차원의 AI 안전평가 체계를 구축하는 인공지능안전연구소를 찾아 AI 서비스 안전성 검증 현장을 취재했다. 기사는 '대출 된다'는 식의 AI 오답 사례를 예로 들며, AI 경쟁의 기준이 모델 성능에서 실제 서비스의 신뢰성·안전성 검증으로 이동하고 있다고 전했다. 셀렉트스타는 기업이 실제 사용하는 AI 서비스를 대상으로 맞춤형 평가와 레드티밍을 통해 취약점을 찾아내는 작업을 수행한다.

이 일이 어디서 왔나

같은 날 전자신문이 셀렉트스타와 인공지능안전연구소의 검증 현장을 두 차례에 걸쳐 보도하면서, AI 경쟁의 축이 모델 성능에서 서비스 신뢰성·안전성 검증으로 옮겨가는 흐름을 국내 사례로 보여주고 있다. 같은 시기 해외에서는 미국 백악관이 AI 사고 즉시 신고를 의무화하고, 나델라 MSFT CEO가 '비상 브레이크' 필요성을 언급하는 등 안전성 검증과 통제 장치 요구가 동시에 커지고 있다. 앤트로픽 AI의 허위 제보 사건이나 오픈AI 안전연구원 해고 논란도 같은 맥락에서 AI 신뢰성 문제의 민감성을 보여준다.