모델 849건 · 국산 132 · 가격 688 추적 중
AI 안전·정렬·평가

오픈AI·앤트로픽 CEO, UN 안보리서 AI 안전 공조 촉구

ZDNet Korea·2026-09-24주요

요약

샘 알트먼 오픈AI CEO와 다리오 아모데이 앤트로픽 CEO가 미국 뉴욕에서 열린 유엔 안전보장이사회 회의에 참석해 AI 안전을 위한 국제 공조를 촉구했다. 알트먼은 AI 관련 사고를 신속히 보고하고 국제 사회가 안전장치와 감독 기준에 합의해야 한다고 말했다. 아모데이는 테러 조직의 생물무기 개발 악용 가능성과 AI 모델이 개발자 통제를 벗어날 위험을 지적하며 국제 안전 기준 마련을 요청했다. 안토니우 구테흐스 유엔 사무총장, 조슈아 벤지오 몬트리올대 교수, 허깅페이스 클레망 들랑그 CEO도 참석해 각각 국제 협력, 과학적 거버넌스, 공포 중심 대응의 위험성을 언급했다.

큐레이터 노트

원문에 없는 맥락입니다

경쟁 관계인 두 AI 기업 CEO가 함께 안보리에 참석해 안전 규범을 촉구한 것은 이례적인 장면이며, 원문에 따르면 아모데이가 앞서 제기한 개발 속도 조절 주장은 미국 의회의 AI 안전 규제 논의에도 영향을 미쳤다.

깊이 읽기

이 기사 한 건이 아니라, 같은 사안을 다룬 이 사이트의 기록을 근거로 정리했습니다

이 일이 어디서 왔나

9월 23일 유엔 안보리에서는 올트먼과 아모데이 외에도 구테흐스 사무총장, 벤지오 교수, 허깅페이스 CEO 등이 참석해 AI 안전 논의가 국가 간 차원으로 확대됐다. 그러나 바로 전날 트럼프 대통령은 유엔총회 연설에서 AI를 '초지능'으로 명명하겠다며 국제 규제 협력 체계 구축을 거부한다고 밝힌 바 있어, 업계와 미국 정부 사이의 온도차가 이미 드러난 상태였다. 같은 날 젠슨 황 엔비디아 CEO는 개발 속도 제한에는 반대한다는 입장을 밝혀 아모데이의 속도조절론과 결이 다른 목소리를 냈다.

짚어야 할 점

  • 경쟁사인 오픈AI와 앤트로픽의 CEO가 나란히 안보리에 서서 규범을 촉구했지만, 정작 자국 정부인 미국은 국제 규제 체제에 선을 그어 업계-정부 간 입장차가 이 회의의 핵심 긴장으로 남는다.
  • 아모데이가 언급한 '생물무기 악용', '개발자 통제 이탈' 우려는 앤트로픽이 9월 23일 공개한 클로드의 신규 효소 발견 사례처럼 AI가 실제로 생명과학 영역에서 빠르게 역량을 확장하고 있다는 정황과 맞물려 읽힌다.
  • 미국 내에서는 샌더스·카사르 의원이 초지능 개발 자체를 금지하고 위반 시 징역형을 부과하는 법안을 발의한 상태로, 안보리의 '국제 공조' 촉구와 별개로 국내 입법 움직임도 병행되고 있다.
  • 오픈AI는 이미 학습 단계부터 외부 독립기관 검증을 받겠다고 밝혔는데, 이는 알트먼이 안보리에서 요구한 '안전장치·감독 기준 국제 합의'를 자사 차원에서 선제적으로 보여주려는 조치로 볼 수 있다.

아직 확인되지 않은 것

  • 알트먼과 아모데이가 요구한 '국제 안전 기준'과 '사고 신속 보고' 체계가 구체적으로 어떤 형태와 구속력을 가질지는 나오지 않았다.
  • 미국 정부가 국제 규제 체계 구축에 반대하는 상황에서 안보리 차원의 합의가 실효성을 가질 수 있는지는 확인되지 않았다.
  • 회의에 참석 예정이었던 딥시크·문샷 AI 등 중국 기업 관계자들이 실제로 어떤 입장을 밝혔는지는 이번 기사들에서 확인되지 않았다.

다른 매체는 이렇게 썼다

같은 사안을 다룬 다른 곳의 보도입니다

오픈AI "챗GPT 검색량, 구글의 20% 수준"
The Verge AI · 2026-11-03

오픈AI는 월요일 열린 행사에서 챗GPT를 통한 검색 쿼리량이 구글 검색량의 20%에 달한다고 밝혔다. 발표자는 소비자 제품 담당 애덤 프라이로, 단어 정의나 간단한 사용법 설명이 아니라 실제 웹 검색으로 이어지는 입력만 '검색'으로 집계한다고 설명했다. 다만 비교 기준이 된 구글 검색…

스노우플레이크, AI 에이전트용 데이터 허브로 차별화
블로터 · 2026-11-03

데이터 클라우드 기업 스노우플레이크가 오픈AI·앤트로픽과 다른 방식으로 기업용 AI 에이전트 시장을 공략하고 있다. 오픈AI·앤트로픽이 AI의 '두뇌'인 모델을 만드는 반면 스노우플레이크는 그 모델이 다룰 기업 데이터를 한곳에 모으고 통제하는 역할을 맡는다. 2012년 미국에서 설립된 …

"역게임이론"으로 AI 에이전트 규율한다는 제안
MIT Tech Review · 2026-11-03

안전 연구자들이 AI의 내부 작동을 직접 해석하는 대신, 규칙을 지키는 것이 가장 합리적 선택이 되도록 유인을 설계하는 "역게임이론(메커니즘 설계)" 접근을 제시했다. MIT 경제학자 스티븐 모리스 등은 예일대, 컬럼비아대 동료들과 함께 모델이 테스트에서 일부러 못하는 척(샌드배깅)하지…

이 사안의 흐름

같은 주제를 다룬 이 사이트의 기록 — 최신순

이 글에 나온 말

용어집 전체 →
온도
언어 모델이 다음 토큰을 선택할 때 확률 분포를 얼마나 평평하게 만들지 조절하는 샘플링 파라미터를 말한다.

이 분야 브리핑

여러 매체가 함께 다룬 사안을 한 번에

이 페이지는 원문을 요약·재서술하고 이 사이트가 쌓은 기록을 덧붙인 큐레이션입니다. 원문 본문은 싣지 않으며, 수치와 표기는 원문 기준을 유지했습니다.

ZDNet Korea 원문 전체 보기 →

같은 분야의 다른 소식

전체 뉴스 →