모델 849건 · 국산 132 · 가격 688 추적 중
AI 안전·정렬·평가

젠슨 황 "통제 안 되는 AI는 출시 말아야"

ZDNet Korea·2026-09-24주요

요약

젠슨 황 엔비디아 CEO가 뉴욕타임스 팟캐스트 '에즈라 클라인 쇼'에서 AI 개발 속도를 늦추기보다 통제할 수 없는 AI 시스템을 출시하지 않는 것이 중요하다고 밝혔다. 그는 AI 안전을 정렬, 격리, 평가·검증 등 기술적 문제로 접근해야 하며, 외부 안전 감사와 제3자 평가에는 긍정적이지만 개발 속도를 제한하는 광범위한 규제에는 반대한다고 말했다. 이는 다리오 아모데이 앤트로픽 CEO가 AI 역량 발전 속도가 안전장치 마련보다 빨라질 수 있다며 개발 속도 조절과 독립 평가기관 도입을 주장한 것과는 차이를 보인다. 같은 날 샘 올트먼 오픈AI CEO와 아모데이 CEO는 UN 안보리 회의에서 AI가 인간의 통제 역량을 넘어설 가능성에 대비한 국제 공조를 촉구했다.

큐레이터 노트

원문에 없는 맥락입니다

AI 안전 확보 방식을 두고 프론티어 모델 개발사들과 엔비디아 사이에 입장차가 드러나면서, 개발 속도 조절 대 자율 규제라는 논쟁의 구도가 뚜렷해졌다.

다른 매체는 이렇게 썼다

같은 사안을 다룬 다른 곳의 보도입니다

스노우플레이크, AI 에이전트용 데이터 허브로 차별화
블로터 · 2026-11-03

데이터 클라우드 기업 스노우플레이크가 오픈AI·앤트로픽과 다른 방식으로 기업용 AI 에이전트 시장을 공략하고 있다. 오픈AI·앤트로픽이 AI의 '두뇌'인 모델을 만드는 반면 스노우플레이크는 그 모델이 다룰 기업 데이터를 한곳에 모으고 통제하는 역할을 맡는다. 2012년 미국에서 설립된 …

앤트로픽, 클로드 코드에 게임 복제 금지 규칙 추가
IT조선 · 2026-11-03

앤트로픽이 코딩 도구 '클로드 코드'에 기존 게임의 무단 복제를 막는 지침을 새롭게 추가했다. 클로드 오푸스 5.5 모델 기반으로 작동하는 클로드 코드의 프롬프트에 특정 게임 복제를 금지하는 규칙이 포함됐다. 이용자의 독창적 게임 개발은 지원하되 타인의 지식재산권을 침해하는 모방 작업은…

'페이블 5.5로 극장판 애니 제작' 주장, 진위는 미확인
AI타임스 · 2026-11-03

앤트로픽이 비공개로 테스트 중인 것으로 알려진 '페이블 5.5'를 활용해 일본 극장판 수준의 2D 애니메이션을 코드로만 제작했다는 주장이 나왔다. 기존 영상 생성 AI를 쓰지 않고 대형언어모델이 직접 프로그램을 작성해 캐릭터, 배경, 움직임을 구현했다는 것이다. 2일(현지시간) X에서 …

이 사안의 흐름

같은 주제를 다룬 이 사이트의 기록 — 최신순

이 글에 나온 말

용어집 전체 →
정렬
AI 시스템의 행동과 산출물이 인간이 의도한 목표, 가치, 지시와 어긋나지 않도록 만드는 기법과 연구 분야를 말한다.
평가
AI 모델이나 시스템의 출력이 원하는 기준에 얼마나 부합하는지를 정량적·정성적으로 측정하는 절차를 말한다.

이 분야 브리핑

여러 매체가 함께 다룬 사안을 한 번에

이 페이지는 원문을 요약·재서술하고 이 사이트가 쌓은 기록을 덧붙인 큐레이션입니다. 원문 본문은 싣지 않으며, 수치와 표기는 원문 기준을 유지했습니다.

ZDNet Korea 원문 전체 보기 →

같은 분야의 다른 소식

전체 뉴스 →