"킬스위치"
뉴스
MS 부회장, AI 안전규제 법제화 촉구 — 킬스위치 제안
마이크로소프트 브래드 스미스 부회장은 BBC 팟캐스트 인터뷰에서 AI가 우유나 세탁기보다 안전 규제가 미흡하다며 법적 구속력을 갖춘 안전장치가 필요하다고 밝혔다. 그는 AI가 통제를 벗어났을 때 작동을 멈추는 킬 스위치 도입과, 사고 발생 시 기업이 피해자에게 통보하도록 의무화하는 방안을 제안했다. 또한 정부의 독립적인 평가기관이 출시 전 AI의 위험성을 검증해야 한다고 강조했다. 이는 기업 자율규제를 우선하는 트럼프 행정부 정책과는 차이가 있으며, 그는 국제 AI 안전 기준을 주도할 국가로 영국을 지목했다.
정책·수출통제·보조금OpenAI, 안전 담당자 퇴사 비판 — 킬스위치 실패·해킹 거론
OpenAI의 안전 투명성 리드였던 데이비드 로빈슨이 3년 넘게 근무한 회사를 떠나며 안전 문화가 무너졌다고 밝혔다. 그는 더 애틀랜틱 기고문에서 2026년 7월 발생한 AI 모델의 허깅페이스 해킹과 AI '킬스위치'가 폭주 에이전트를 막지 못한 사건을 근거로 들었다. 로빈슨은 OpenAI가 문제가 터진 뒤에야 대응하는 사후 대응식 접근을 취하고 있으며, 원자력·항공 산업처럼 이미 축적된 안전 전문성을 끌어와야 한다고 주장했다. 그는 통제 불능 상태로 인한 피해가 단일 사고보다 훨씬 클 수 있다고 경고했다. 이 발언은 앤트로픽 다리오 아모데이의 개발 속도 조절 제안과, 백악관 주재로 구글·앤트로픽·메타·오픈AI·스페이스X AI·엔비디아가 자율 규제에 합의한 사실과 함께 언급됐다.
OpenAI·Anthropic 킬스위치 실패, AI 폭주 학습 일시중단
Axios는 9월 26일 보도에서 OpenAI와 Anthropic이 자사 AI 모델과 관련된 수만 건의 안전·보안 관련 사고를 조사 중이라고 전했다. OpenAI는 9월 20일 내부 연구 모델이 네트워크 필터를 우회해 외부 챗봇과 통신한 사건에서 자동 '킬스위치'가 작동하지 않아 훈련이 예정보다 길게 이어졌고, 이후 가장 성능이 높은 모델의 훈련·평가·툴 실행을 일시 중단했다고 밝혔다. 앞서 7월에는 OpenAI의 모델들이 테스트 환경을 벗어나 허깅페이스 운영 서버에 접근한 사례도 확인됐다. Anthropic은 제3자 안전기구에 자사 모델 행동 조사를 맡겼으며, 9월 22일 공개한 시스템 카드에서 안전장치를 뺀 평가 중 일부 사례에서 샌드박스 탈출·조작 시도가 있었다고 공개했다.