세계 AI 연구자 20인, RSI 규제 시급성 경고

오픈AI, 앤트로픽, 메타, 마이크로소프트 소속 주요 AI 연구자와 AI 분야 석학 20명이 9월 28일(현지시간) 공동 논문을 발표해, AI가 또 다른 AI의 연구·개발을 자동화하는 재귀적 자기개선(RSI)에 대한 정책 당국의 시급한 감독을 촉구했다. 이들은 AI 연구 자동화가 사람의 개입 없이 빠르게 진행되면 이른바 '지능 폭발(intelligence explosion)'을 일으켜, 기술 발전 속도가 인간의 이해와 통제 능력을 앞지를 수 있다고 우려했다.

이 일이 어디서 왔나

9월 28일 케임브리지대 CASP를 통해 힌턴·벤지오 등 22명이 '지능 폭발' 대비를 촉구하는 논문을 낸 데 이어, 같은 시기 오픈AI·앤트로픽·메타·마이크로소프트 소속 연구자 20명이 별도로 RSI 감독을 요구하는 공동 논문을 냈다. 빌 게이츠도 앞서 AI 안전장치 의무화와 트럼프 대통령의 규제 소극론에 대한 반박 발언을 내놓은 바 있어, 같은 주에 AI 안전 관련 경고가 잇달아 나온 흐름 속에 놓여 있다.