모델 857건 · 국산 138 · 가격 690 추적 중
AI 안전·정렬·평가

앤트로픽 CEO "AI 개발 속도 늦출 때" 제안

The Verge AI·2026-09-12영문 원문주요

요약

앤트로픽 CEO 다리오 아모데이가 에세이를 통해 AI 개발 속도를 늦추는 3단계 계획을 제안했다. '프런티어 속도 조절'이라는 표현은 기업이 안전장치를 마련하고 규제당국이 모델을 평가할 시간을 주기 위해 학습과 개발 속도를 늦추는 것을 뜻한다. 첫 단계로 앤트로픽은 METR 등 외부 평가기관에 자사 모델에 대한 광범위한 접근 권한을 부여해 안전 관행 및 약속 이행 여부를 점검하도록 하며, 이는 이미 독자적으로 시행 중이다. 두 번째 단계는 정부 등과 함께 업계 전체가 공동으로 나서는 방안이라고 밝혔다.

큐레이터 노트

원문에 없는 맥락입니다

외부 평가기관에 모델 접근권을 주는 조치는 앤트로픽이 제시한 3단계 계획의 첫 단계일 뿐이며, 업계 전체와 정부가 참여하는 다음 단계는 아직 실현되지 않은 제안 상태다.

깊이 읽기

이 기사 한 건이 아니라, 같은 사안을 다룬 이 사이트의 기록을 근거로 정리했습니다

이 일이 어디서 왔나

다리오 아모데이의 '프런티어 속도 조절' 제안은 발표 직후 여러 진영에서 엇갈린 반응을 낳았다. 오픈AI는 9월 15일 앤트로픽·구글 딥마인드와 AI 안전 협의를 진행 중이라고 공식 확인했고, 반대로 가디언은 이를 반독점법을 피하려는 담합 수법이라고 비판했다. 중국 외교부와 딥시크 측 엔지니어도 이 제안을 시장 독점 시도이자 냉전적 전략이라고 강하게 반발했다.

짚어야 할 점

  • 오픈AI 정책책임자는 세 기업의 안전 협력에 별도 반독점 면제가 필요 없다고 밝혔지만, 가디언은 같은 제안을 두고 정반대로 반독점 회피 수법이라고 지적해 해석이 정면으로 충돌한다.
  • 미국 내에서도 트럼프 대통령이 중국과의 경쟁에서 불리하다며 속도 조절에 부정적 입장을 밝혀, 업계 제안과 행정부 입장이 어긋난다.
  • 중국 정부와 딥시크 관계자는 미국 측이 자국에 속도를 늦추라 요구한 바 없는데도 이 제안을 독점 시도로 규정하며 강하게 반응했다.
  • 앤트로픽 내부에서도 이번 제안 발표 전후로 직원 사임 등 안전 우려가 제기됐다는 지적이 나와, 제안이 사내 반발을 잠재우기 위한 것 아니냐는 시각도 있다.

아직 확인되지 않은 것

  • 업계 전체와 정부가 함께 나서는 2단계 조치가 구체적으로 어떤 형태일지는 이 기사에서 확인되지 않았다.
  • 1~2년의 속도 조절 기간이 실제로 어떤 기술적 안전 조치를 '상당한 진전'으로 볼 수 있게 하는지 구체적 기준은 제시되지 않았다.
  • 오픈AI·앤트로픽·구글의 안전 협의가 실제로 개발 속도나 경쟁 관계에 어떤 영향을 미칠지, 반독점 당국이 이를 어떻게 볼지는 확인되지 않았다.

다른 매체는 이렇게 썼다

같은 사안을 다룬 다른 곳의 보도입니다

힌튼 "AI 없었다면 더 나았을 수도"
GeekNews · 2026-11-04

제프리 힌튼은 AI가 풍요로운 미래를 열 가능성을 인정하면서도, 위험 관리에 실패하면 빈부 격차와 대량 실업으로 사회가 무너질 수 있으며 10년 이내에 그 향방이 드러날 것이라고 밝혔다. 그는 2026년 말이나 2027년에 AI를 이용한 공격으로 전력 공급이나 금융 시스템이 일시적으로 …

앤트로픽, 호주서도 IPO 개인투자자 공모 추진
AI타임스 · 2026-11-04

앤트로픽이 미국 증시 상장을 앞두고 일본에 이어 호주에서도 개인투자자를 대상으로 주식 판매를 추진한다. 호주 최대 은행인 커먼웰스은행(CBA)의 증권 자회사 컴섹이 이번 호주 개인투자자 공모에서 대표 증권사 역할을 맡을 예정이라고 밝혔다. 이는 미국 증시에 상장하는 주식을 현지 증권사를…

앤트로픽, AI 모델 출처 증명 오픈소스 '플래시프루브' 공개
IT조선 · 2026-11-04

앤트로픽이 특정 AI 모델이 실제로 결과물을 생성했는지를 암호학적으로 검증하는 오픈소스 시스템 '플래시프루브(FlashProve)'를 공개했다. 테크크런치 등 외신에 따르면 이는 고가의 전용 모델 대신 저렴한 모델로 몰래 답변을 대체하는 이른바 'AI 바꿔치기' 같은 불투명한 운영을 기…

이 사안의 흐름

같은 주제를 다룬 이 사이트의 기록 — 최신순

이 글에 나온 말

용어집 전체 →
평가
AI 모델이나 시스템의 출력이 원하는 기준에 얼마나 부합하는지를 정량적·정성적으로 측정하는 절차를 말한다.
학습
학습은 모델이 데이터를 반복적으로 살펴보며 예측 오차를 줄이는 방향으로 내부 파라미터를 조정해 나가는 과정을 말한다.

이 분야 브리핑

여러 매체가 함께 다룬 사안을 한 번에

이 페이지는 원문을 요약·재서술하고 이 사이트가 쌓은 기록을 덧붙인 큐레이션입니다. 원문 본문은 싣지 않으며, 수치와 표기는 원문 기준을 유지했습니다.

The Verge AI 원문 전체 보기 →

같은 분야의 다른 소식

전체 뉴스 →