오픈AI '아스트라', 자율 해킹 능력에 안전조치 강화

오픈AI가 차세대 모델 '아스트라' 출시를 준비 중이며, 자체 평가에서 알려진 취약점 익스플로잇 개발 평가 100%를 기록하고 제로데이 취약점도 스스로 찾아 공격에 활용하는 능력을 보였다고 밝혔다. 오픈AI는 이러한 자율 사이버 공격 성능으로 인해 실시간 모니터링과 자동 차단 등 필수 안전 조치를 완료했다고 설명했다. 오픈AI는 이를 통해 '심각(Critical)' 수준의 위험을 통제할 수 있게 됐다고 밝혔다.

이 일이 어디서 왔나

오픈AI는 프런티어 모델의 생물무기·사이버 등 위험 수준을 자체 등급으로 분류해 '심각(Critical)' 단계에 이르면 별도 안전조치를 적용하겠다고 공언해 왔다. 유럽연합 집행위원장도 9월 16일 연설에서 향후 모델이 예상보다 강력한 해킹을 가능케 할 수 있다고 우려했고, 구글 딥마인드 셰인 레그도 같은 날 AI 기능이 안전 통제 수단을 앞질러서는 안 된다고 경고한 바 있어, 아스트라의 자율 해킹 능력 공개는 이런 우려가 현실화된 사례로 볼 수 있다.