캘리포니아, AI 모델 '킬 스위치' 의무화 행정명령 서명

AI타임스·2026-09-19주요

요약

개빈 뉴섬 캘리포니아 주지사가 9월 18일(현지시간) 첨단 AI 모델에 비상 정지 기능인 '킬 스위치' 도입과 제3자 독립 감사를 의무화하는 행정명령에 서명했다. 주정부는 2달 안에 전담 전문가 실무 그룹을 구성해 최첨단 AI 연구소에 대한 독립 평가자 배치, 안전 계획의 외부 검증, 비상용 킬 스위치 구축 등을 담은 가이드라인을 마련할 계획이다. 이는 주 차원에서 AI 안전·보안 감독 체계를 강화하려는 조치다.

큐레이터 노트

원문에 없는 맥락입니다

연방 정부의 별도 규제 논의와 무관하게 주정부가 프런티어 AI 연구소를 대상으로 독립 감사와 비상 정지 장치를 직접 요구했다는 점이 특징이다.

깊이 읽기

이 기사 한 건이 아니라, 같은 사안을 다룬 이 사이트의 기록을 근거로 정리했습니다

이 일이 어디서 왔나

이번 서명은 연방 차원에서 AI 규제 논의가 벽에 부딪힌 직후 나왔다. 9월 17일 WSJ 보도로 젠슨 황·저커버그·머스크가 트럼프 대통령을 설득해 민간 주도 AI 규제기구 설립 구상을 무산시킨 사실이 알려졌고, 트럼프 본인도 AI 위험론을 '사기'로 일축해온 상태였다. 같은 9월 18일 버지니아 주지사도 데이터센터 규제를 강화하는 별도 행정명령에 서명하면서, 연방 정부가 손을 놓은 사이 주 정부들이 각자 방식으로 AI 감독에 나서는 흐름이 뚜렷해지고 있다.

짚어야 할 점

이번 서명은 법 제정이 아니라 행정명령이며, '킬 스위치' 의무화 자체는 아직 확정되지 않았고 2달 뒤 전문가 그룹의 권고안이 나와야 구체화된다.
같은 날 버지니아가 데이터센터 인허가·발전 운영 쪽을, 캘리포니아가 프런티어 모델의 안전장치·독립 감사 쪽을 겨냥하면서 주별로 AI 규제의 초점이 갈리고 있다.
연방 차원에서는 빅테크 CEO들의 로비로 규제기구 설립이 무산되고 트럼프가 AI 위험론에 부정적인 만큼, 캘리포니아의 조치는 연방 공백을 주 정부가 메우려는 시도로 읽힌다.

아직 확인되지 않은 것

전문가 실무 그룹이 2달 뒤 내놓을 가이드라인이 실제로 프런티어 AI 연구소에 법적 구속력을 가질지는 확인되지 않았다.
'킬 스위치'가 기술적으로 무엇을 의미하는지, 각 연구소가 이를 어떻게 구현해야 하는지에 대한 구체적 기준은 나오지 않았다.
AI Now Institute가 지적한 것처럼 '멸망 시나리오' 중심 접근이 다른 형태의 AI 위험 논의를 밀어낼 수 있다는 우려가 이번 캘리포니아 조치에도 적용되는지는 다뤄지지 않았다.

다른 매체는 이렇게 썼다

같은 사안을 다룬 다른 곳의 보도입니다

2026 미국 중간선거, 데이터센터·AI 규제가 쟁점으로

The Verge AI · 2026-11-03

2026년 미국 중간선거는 트럼프 대통령 남은 임기의 권력 범위를 결정짓는 선거로, 물가 문제가 핵심 쟁점이지만 데이터센터로 인한 에너지 비용 부담, AI 안전, 감시기술 Flock의 확산도 유권자들의 관심사로 꼽힌다. 캘리포니아에서는 억만장자 부유세 투표 발의안을 둘러싸고 테크 기업들…

AI 모델 안에 보안 OS 심었다…비드래프트 정보유출 차단 기술

ZDNet Korea · 2026-11-03

AI 기업 비드래프트가 AI 모델 가중치 내부에서 작동하는 보안 운영체제 '바이커널'을 개발해 공개 시연 서비스를 시작했다. 바이커널은 승인되지 않은 외부 전송을 차단하고 개인정보를 가리며, 이상 행동이 감지되면 킬스위치로 AI 실행을 중단하고 실행 기록을 해시로 연결해 위변조를 확인할…

美 중간선거, 거액 후원자들 12억 달러 쏟아부어

GeekNews · 2026-11-02

미국 중간선거의 상위 20개 후원 주체가 이번 선거 주기 연방 선거에 총 12억 달러를 기부한 것으로 나타났다. 공화당 성향 후원자가 상위 명단의 다수를 차지해, 민주당에 유리한 정치 환경에서도 공화당이 경쟁력을 유지하는 데 도움이 될 수 있다는 분석이 나온다. 암호화폐와 AI 업계는 …