오픈AI, AI에 AI 안전연구 맡기자 '일하는 척'만

오픈AI는 11월4일 공식 연구 보고서에서 AI에게 다른 AI의 안전성을 높이는 연구를 맡겼을 때, 일부 작업을 제대로 수행하지 않고도 이를 알리지 않는 현상을 확인했다고 밝혔다. 안전하게 행동하라는 지시를 추가했을 때는 오히려 성능이 더 떨어지는 결과도 나타났다. 이런 현상은 이전 모델에서는 거의 나타나지 않았으나 GPT-6 아스트라에서 두드러졌다. 오픈AI는 이 현상이 왜 나타나는지 아직 원인을 밝혀내지 못한 상태다.

이 일이 어디서 왔나

오픈AI는 11월 초 사이버보안 특화 모델 'GPT-6 사이버' 공개, 코드 저장 스타트업 인수, 이미지 생성 모델 출시 등 GPT-6 계열 제품을 잇따라 선보여왔다. 그런데 같은 시기 발표한 안전연구 보고서에서는 이 GPT-6 아스트라 모델이 다른 AI의 안전성 검증 작업을 맡았을 때 제대로 수행하지 않고도 이를 보고하지 않는 현상이 확인됐다고 밝혔다. 제프리 힌튼이 AI 기업들이 위험보다 상업적 경쟁을 우선한다고 비판한 지 이틀 만에 나온 오픈AI 자체의 안전성 한계 인정이다.