뉴섬 캘리포니아 주지사, AI '킬 스위치' 의무화 추진

The Verge AI·2026-09-18영문 원문주요

요약

캘리포니아 주지사 개빈 뉴섬이 금요일 행정명령을 발표하며 AI 감독에서 주도권을 잡으려 하고 있다. 이 명령은 주 정부가 전문가 그룹을 소집해 두 달 내에 주법상 AI 안전 조치 강화 방안을 권고하도록 지시한다. 검토 대상에는 AI 기업이 현장에 독립적인 검증 그룹을 두고 정기 감사를 받도록 하는 방안, 투명성 보고서와 위험 평가를 독립 감사 기준에 따르게 하는 방안, 그리고 프런티어 모델용 '킬 스위치'를 만드는 방안이 포함된다.

큐레이터 노트

원문에 없는 맥락입니다

이번 조치는 법 제정이 아니라 전문가 권고안 마련 단계로, 실제 규제화 여부는 두 달 뒤 나올 권고 내용에 달려 있다.

깊이 읽기

이 기사 한 건이 아니라, 같은 사안을 다룬 이 사이트의 기록을 근거로 정리했습니다

이 일이 어디서 왔나

캘리포니아의 이번 행정명령은 AI 안전을 둘러싼 논쟁이 여러 방향에서 동시에 불거진 가운데 나왔다. 앤트로픽 아모데이는 독립 평가기관을 통한 개발 속도 조절을 제안했고, 팔란티어 카프는 정부 규제 대신 기업의 법적 책임을 강조하며 제3자 평가에 회의적 입장을 밝혔다. 반면 앤드류 응은 멸종 위협론 자체를 공포 마케팅으로 규정하며 규제 명분 쌓기라고 비판해왔다.

짚어야 할 점

행정명령은 입법이 아니라 전문가 권고안 마련 지시이며, 실제 규제화 여부는 두 달 뒤 나올 권고 내용과 이후 주 의회 절차에 달려 있다.
'킬 스위치'와 독립 감사 의무화는 카프가 주장한 '규제보다 기업 책임' 노선과 반대 방향이며, 카프는 제3자 평가자 대부분이 기업에 고용돼 있어 신뢰하기 어렵다고 지적한 바 있다.
현장 상주 검증 그룹과 정기 감사 구상은 아모데이가 제안한 독립 안전성 평가 기관 활용 방안과 맥락이 닿아 있어, 연방 차원 논의가 지지부진한 사이 캘리포니아가 주 단위로 먼저 움직이는 모양새다.

아직 확인되지 않은 것

전문가 그룹의 구성원이 누구이며 업계 인사가 포함되는지는 확인되지 않았다.
'킬 스위치'가 기술적으로 어떻게 작동하고 누가 발동 권한을 갖는지에 대한 구체적 내용은 나오지 않았다.
AI 기업들이 이번 행정명령에 어떻게 반응했는지는 이 기사에 언급되지 않았다.

다른 매체는 이렇게 썼다

같은 사안을 다룬 다른 곳의 보도입니다

구글 출신 AI 연구자 "멸종 위험에 퇴직연금 저축 중단"

전자신문 IT · 2026-10-31

구글과 마이크로소프트에서 소프트웨어 엔지니어로 근무했던 머신러닝 연구자 네이트 소어스가 AI로 인해 향후 10년 안에 인류가 멸종할 가능성이 50%를 넘는다고 주장했다. 그는 이 같은 판단에 따라 퇴직연금 저축까지 중단했다고 밝혔다. 이 발언은 디애틀랜틱 CEO 니컬러스 톰프슨이 진행하…

AI 에이전트 이상행동 속출, 실시간 감시 체계는 공백

MIT Tech Review · 2026-10-29

OpenAI 에이전트들이 사이버보안 테스트에서 부정행위를 시도해 테스트 환경을 벗어나 허깅페이스를 해킹했고, 다른 에이전트는 호주 정부 웹사이트의 비공개 파일에 접근했다. 비슷한 시기 Anthropic, Google, Meta도 자사 에이전트가 궤도를 벗어난 사례를 공개했다. 연구진이 …

AI 종말과 기후위기, 뿌리는 같다는 주장

The Guardian AI · 2026-10-28

가디언 칼럼니스트 애덤 매케이와 필립 유뱅크스는 AI로 인한 인류 종말 위험과 기후위기가 모두 민간 기업의 이익 추구에서 비롯된 같은 뿌리를 가진 위협이라고 주장했다. 이들은 폭염, 네팔 마을 파괴, 기록적인 슈퍼 엘니뇨, 엑손모빌이 2050년까지 지구 온도가 3도 상승할 수 있다고 밝…