모델 857건 · 국산 138 · 가격 690 추적 중
AI 안전·정렬·평가

알트먼·아모데이 등 유엔 안보리 'AI 안전' 브리핑 참석

AI타임스·2026-09-23주요

요약

오픈AI 샘 알트먼 CEO와 앤트로픽 다리오 아모데이 CEO를 비롯해 중국 딥시크, 문샷 AI 등 관계자들이 유엔 안전보장이사회 브리핑에 참석한다. 유엔 안보리는 9월 23일(현지시간) AI가 국제 평화와 안보에 미치는 영향을 주제로 회의를 개최할 예정이다. 세계 각국 정상들이 유엔총회 참석을 위해 뉴욕에 모인 가운데 열리는 이번 회의로 AI 안전성과 관리 방안을 둘러싼 논의가 국가 간 차원으로 확대되고 있다고 로이터는 전했다.

큐레이터 노트

원문에 없는 맥락입니다

미국·중국 주요 AI 기업 관계자들이 함께 유엔 안보리 자리에 참석한다는 점에서, AI 안전 논의가 개별 기업이나 국가 차원을 넘어 국제 외교 무대로 옮겨가고 있음을 보여준다.

깊이 읽기

이 기사 한 건이 아니라, 같은 사안을 다룬 이 사이트의 기록을 근거로 정리했습니다

이 일이 어디서 왔나

오픈AI의 미국 정부 대상 국제 기준 제안, 영국의 '정직한 중재자' 역할 자처, 22개국의 글로벌 AI 감독체계 선언 등 AI 안전 논의가 9월 들어 여러 갈래로 국가·국제기구 차원에 오르던 중, 이번엔 유엔 안전보장이사회가 직접 브리핑 자리를 마련해 미국·중국 기업 관계자를 한자리에 불렀다. 앞서 트럼프 대통령이 유엔총회 연설에서 AI 실존적 위협론을 '사기'라 일축한 바로 다음 날 열리는 회의라는 점도 배경이 된다.

짚어야 할 점

  • 알트먼·아모데이는 그간 개발 속도조절 필요성을 언급해왔고, 트럼프 대통령은 이런 우려를 '사기'라 일축한 바 있어 같은 회의장에서 입장차가 어떻게 드러날지가 관전 포인트다.
  • 딥시크·문샷 AI 등 중국 기업까지 참석한다는 점은, 무스타파 술레이먼이 지적한 '중국과의 경쟁을 핑계로 안전규제를 미루는' 구도와 달리 미중 기업이 한 테이블에 앉는 드문 장면이라는 데 의미가 있다.
  • 안보리는 국제 평화·안보 사안을 다루는 기구로, AI 안전 논의가 기존 표준화 기구(ISO 등)나 국가별 규제 논의와 달리 안보 프레임으로 다뤄진다는 점에서 논의의 성격 자체가 달라질 수 있다.
  • 오픈AI의 국제기준 제안, 영국의 AISI 중심 역할 주장 등 여러 주체가 '누가 국제 기준을 주도할지'를 두고 경쟁하는 가운데, 안보리 브리핑이 이 구도에 어떤 무게를 더할지 지켜볼 필요가 있다.

아직 확인되지 않은 것

  • 이번 브리핑에서 구체적으로 어떤 합의나 후속 조치가 논의됐는지는 확인되지 않았다.
  • 안보리가 AI 안전 문제에 대해 실질적 구속력 있는 조치를 취할 권한이나 의지가 있는지는 나오지 않았다.
  • 참석한 중국 기업 관계자들이 어떤 입장을 밝혔는지, 미국 기업 측과 견해차가 있었는지는 확인되지 않았다.

다른 매체는 이렇게 썼다

같은 사안을 다룬 다른 곳의 보도입니다

M83·디블라트, 딥페이크 판별 솔루션 '안티제니' 개발
ZDNet Korea · 2026-11-04

VFX 기업 M83과 AI 자회사 디블라트가 딥페이크 판별 솔루션 '안티제니'를 개발했다고 4일 밝혔다. 워터마크 탐지 대신 콘텐츠 자체의 시각적·통계적 특성을 분석해 다양한 AI 생성 모델의 딥페이크를 판별하는 방식이다. 구글 크롬과 아이폰 사파리용 확장 프로그램 개발도 완료해 브라우…

"역게임이론"으로 AI 에이전트 규율한다는 제안
MIT Tech Review · 2026-11-03

안전 연구자들이 AI의 내부 작동을 직접 해석하는 대신, 규칙을 지키는 것이 가장 합리적 선택이 되도록 유인을 설계하는 "역게임이론(메커니즘 설계)" 접근을 제시했다. MIT 경제학자 스티븐 모리스 등은 예일대, 컬럼비아대 동료들과 함께 모델이 테스트에서 일부러 못하는 척(샌드배깅)하지…

AI 개발 경쟁에 고객은 뒷전…팔란티어 CEO, 개발사 책임 촉구
ZDNet Korea · 2026-11-03

팔란티어 알렉스 카프 CEO가 3분기 실적 발표와 함께 공개한 주주서한에서 AI 개발사가 고객이 쌓은 가치와 경�쟁력을 빼앗아서는 안 된다고 경고했다. 그는 AI 안전 논의의 '정렬' 개념을 거론하며, AI가 사람 뜻대로 작동하는지뿐 아니라 AI를 만드는 기업이 고객 이익을 해치지 않는…

이 사안의 흐름

같은 주제를 다룬 이 사이트의 기록 — 최신순

이 분야 브리핑

여러 매체가 함께 다룬 사안을 한 번에

이 페이지는 원문을 요약·재서술하고 이 사이트가 쌓은 기록을 덧붙인 큐레이션입니다. 원문 본문은 싣지 않으며, 수치와 표기는 원문 기준을 유지했습니다.

AI타임스 원문 전체 보기 →

같은 분야의 다른 소식

전체 뉴스 →