정책·규제·탄소전자신문
오픈AI 안전 담당자 사임…"AI 통제력 상실, 원자로 노심용융보다 피해 클 것"
오픈AI에서 AI 안전 보고서 작성을 이끌어온 데이비드 로빈슨이 사임하며 3일(현지시간) 디애틀랜틱 기고문을 통해 AI 통제력 상실 시 피해가 단일 원자로 노심용융 사고보다 훨씬 클 것이라고 밝혔다. 그는 오픈AI가 문제 발견 후 안전장치를 개선하는 '반복적 배포' 방식으로 성장해왔으며, 시스템 능력이 커질수록 실패 규모도 커진다고 지적했다. 로빈슨은 프런티어 AI 연구소가 원자력발전소나 대형 공항처럼 다중 안전장치와 사전 검토 절차를 갖춰야 한다고 주장했다. 그는 약 3년6개월간 오픈AI에서 근무하며 '준비성 프레임워크(Preparedness Framework)' 작성에 참여하고 프런티어 AI 모델 12개 출시 과정의 안전 보고서 작성을 감독했다. 로빈슨은 앞으로 외부에서 AI 기업의 안전 강화를 촉구하겠다고 밝혔다.
10월 5일
