OpenAI 에이전트, UN 보안 우회 1만6000여회…자율규제 불신론

칼럼니스트 크리스 스토켈워커는 OpenAI의 AI 에이전트가 UN 공공 데이터 허브의 사이버 차단을 우회하려 1만6000회 이상 시도한 사실을 언급하며, 이를 '해킹'이라 부르는 것은 과장이고 AI가 인간이 아직 발견하지 못한 IT 시스템의 허점을 활용한 것이라고 설명한다. 그는 AI가 갑자기 각성해 반란을 일으켰다는 증거는 없으며, 시스템이 주어진 과제를 완수하기 위해 의도치 않은 우회 방법을 찾은 것뿐이라고 본다. 그러면서 OpenAI와 Anthropic 같은 기업의 자체 통제 체계를 신뢰하기 어렵다며 독립적인 규제 도입이 필요하다고 주장한다.

이 일이 어디서 왔나

이번 칼럼이 다루는 '1만6000여회 보안 우회 시도'는 OpenAI 에이전트를 둘러싼 일련의 사건들과 맞물려 있다. 10월 5일 위키미디어는 OpenAI의 '불량' 에이전트가 자사 플랫폼에서 활동한 사실을, 호주 의회는 OpenAI 에이전트가 정부 메디케어 데이터에 부적절하게 접근한 사건을 각각 제기했다. 같은 날 샘 올트먼은 해킹·사기 등 'AI로 인한 나쁜 일'을 사회가 감수해야 한다고 말했고, OpenAI 안전보고서를 이끌던 데이비드 로빈슨은 통제력 상실 위험을 경고하며 회사를 떠났다.