모델 849건 · 국산 132 · 가격 688 추적 중
안전과 사기

AI 전문가들, 초지능 인류 멸종 확률 10%↑ 경고

AI타임스·2026-09-10주요

요약

오픈AI와 앤트로픽에서 3년간 사전훈련 연구를 담당했던 제이콥 콕슨 연구원이 9일 사직서를 제출한 뒤 X를 통해 선두 AI 기업들의 무모한 개발 경쟁을 비판했다. 그는 AI 기업 내부에서 공유되는 공포를 폭로했다고 밝혔다. 프론티어 AI 모델을 개발하는 전문가들은 AI가 인간의 통제를 벗어나 인류를 멸종시킬 확률이 10% 이상이라는 예측을 내놓았다. 이는 AI 업계 내부에서도 개발 속도와 안전성에 대한 우려가 커지고 있음을 보여준다.

큐레이터 노트

원문에 없는 맥락입니다

AI 안전 문제 제기가 익명이나 외부 비평가가 아니라 오픈AI·앤트로픽 사전훈련 연구를 직접 담당했던 내부 연구자에게서 나왔다는 점에서, 프론티어 기업들이 자체 개발 속도를 얼마나 통제할 수 있는지에 대한 신뢰 문제로 이어질 수 있다.

깊이 읽기

이 기사 한 건이 아니라, 같은 사안을 다룬 이 사이트의 기록을 근거로 정리했습니다

이 일이 어디서 왔나

이 경고는 다리오 아모데이 앤트로픽 CEO가 9월 15일 드림포스 무대에서 재차 제기한 'AI 속도조절론', 오픈AI가 같은 날 앤트로픽·구글과 몇 주간 안전 협의를 해왔다고 공식 확인한 사실, 버니 샌더스 상원의원의 초지능 AI 영구 금지 법안 발의 예고와 같은 시점에 나왔다. 기업 최고경영자들의 공개 발언과 정치권의 입법 시도가 이어지는 가운데, 기업 내부 연구자의 사직과 경고까지 겹친 셈이다.

짚어야 할 점

  • 콕슨은 오픈AI와 앤트로픽 양쪽에서 사전훈련을 담당했던 인물로, 특정 기업만이 아니라 두 회사 모두에서 나온 우려를 전한다는 점이 눈에 띈다.
  • 같은 날 오픈AI가 앤트로픽·구글과 수 주간 안전 협의를 진행해왔다고 밝힌 것과 대조하면, 기업 간 협력 발표와 내부 연구자의 사직·경고가 동시에 나온 셈이다.
  • 젠슨 황 엔비디아 CEO는 속도 조절에 반대 입장을 밝혀, 멸종 확률 경고에도 불구하고 업계 내 대응 방식은 갈리고 있다.
  • 샌더스 의원의 초지능 개발 금지 법안 추진과 맞물려, 이런 내부 경고가 실제 입법으로 이어질지가 관건이 될 수 있다.

아직 확인되지 않은 것

  • 콕슨 연구원이 말한 '내부에서 공유되는 공포'가 구체적으로 무엇인지, 어떤 근거나 문서로 뒷받침되는지는 확인되지 않았다.
  • 멸종 확률 10% 이상이라는 수치가 어떤 방법론이나 몇 명의 전문가를 대상으로 한 조사에서 나온 것인지는 밝혀지지 않았다.
  • 오픈AI·앤트로픽·구글의 안전 협의 내용에 콕슨이 제기한 통제 상실 위험에 대한 대응이 포함되는지는 확인되지 않았다.

다른 매체는 이렇게 썼다

같은 사안을 다룬 다른 곳의 보도입니다

앤트로픽, AI 모델 출처 증명 오픈소스 '플래시프루브' 공개
IT조선 · 2026-11-04

앤트로픽이 특정 AI 모델이 실제로 결과물을 생성했는지를 암호학적으로 검증하는 오픈소스 시스템 '플래시프루브(FlashProve)'를 공개했다. 테크크런치 등 외신에 따르면 이는 고가의 전용 모델 대신 저렴한 모델로 몰래 답변을 대체하는 이른바 'AI 바꿔치기' 같은 불투명한 운영을 기…

오픈AI "챗GPT 검색량, 구글의 20% 수준"
The Verge AI · 2026-11-03

오픈AI는 월요일 열린 행사에서 챗GPT를 통한 검색 쿼리량이 구글 검색량의 20%에 달한다고 밝혔다. 발표자는 소비자 제품 담당 애덤 프라이로, 단어 정의나 간단한 사용법 설명이 아니라 실제 웹 검색으로 이어지는 입력만 '검색'으로 집계한다고 설명했다. 다만 비교 기준이 된 구글 검색…

데이터센터 인기 추락에 명칭 바꾸기 나선 업계
The Guardian AI · 2026-11-03

가디언의 칼럼니스트 아르와 마흐다위는 AI 데이터센터가 전기요금 상승을 유발해 정치 성향을 막론하고 비판받고 있다고 지적하며, OpenAI가 이를 새로운 이름으로 바꾸려 한다고 꼬집었다. 글은 도널드 트럼프가 '온타리오호'를 '아메리카호', '멕시코만'을 '아메리카만'으로 바꾼 사례와 …

이 사안의 흐름

같은 주제를 다룬 이 사이트의 기록 — 최신순

이 분야 브리핑

여러 매체가 함께 다룬 사안을 한 번에

이 페이지는 원문을 요약·재서술하고 이 사이트가 쌓은 기록을 덧붙인 큐레이션입니다. 원문 본문은 싣지 않으며, 수치와 표기는 원문 기준을 유지했습니다.

AI타임스 원문 전체 보기 →

같은 분야의 다른 소식

전체 뉴스 →