뉴욕주, AI 안전성 직접 검증하는 기관 세워

테크42·2026-11-10주요

요약

미국 뉴욕주가 AI 기업의 자체 발표만 믿지 않고, 직접 AI 모델의 위험성을 확인하는 '뉴욕 AI 책임·연구 센터'를 빙햄턴 대학교에 만들었습니다. 약 80명의 연구진이 투입되며, 뉴욕주의 민관합작 사업인 엠파이어 AI의 컴퓨팅 자원을 활용해 검증을 진행합니다. 연구 결과는 의료·과학 분야의 AI 안전 가이드라인을 만드는 데 쓰일 예정입니다. 여기에 더해 2027년 1월 1일부터는 'RAISE 법'이 시행되어, 대형 AI 기업은 주정부에 등록하고 안전 사고가 나면 72시간 안에 보고해야 합니다.

큐레이터 노트

원문에 없는 맥락입니다

지금까지는 AI 기업이 스스로 '안전하다'고 밝히는 것에 의존했는데, 이번에는 주정부가 직접 확인에 나선다는 점이 다릅니다.

깊이 읽기

이 기사 한 건이 아니라, 같은 사안을 다룬 이 사이트의 기록을 근거로 정리했습니다

이 일이 어디서 왔나

같은 날 ZDNet Korea 보도에 따르면 뉴욕주는 연 매출 5억 달러 이상 대형 AI 개발사에 등록과 72시간 내 사고 보고를 의무화하고, 집행은 새로 만든 디지털혁신·거버넌스·무결성·신뢰국(DIGIT)이 맡으며 빙엄턴대 연구센터가 기술 평가를 지원하는 구조다. 비슷한 시기 호주도 오픈AI의 메디케어 정보 유출 사건을 계기로 외부 평가·사고 보고를 의무화하는 법 제정을 추진 중이어서, 기업 자율 공개에 의존하던 방식에서 정부가 직접 검증하는 방식으로 옮겨가는 흐름이 미국과 호주 양쪽에서 동시에 나타나고 있다.

짚어야 할 점

뉴욕주 조치의 핵심은 '검증'을 외주가 아니라 주정부 산하 연구센터가 직접 맡는다는 점으로, 호주가 추진 중인 '독립된 외부 평가' 방식과 결은 다르지만 목적은 같다.
위반 시 제재금이 최대 300만 달러로 책정됐는데, 이는 오픈AI·앤트로픽 같은 기업 매출 규모에 비해 실효적 억제력이 될지가 관전 포인트다.
뉴욕·호주 모두 사고 발생 후 신속 보고를 의무화했지만, '사고'의 정의와 판단 기준이 공개됐는지는 확인할 필요가 있다.
연방 차원에서는 스콧 위너 당선자가 AI 규제 드라이브를 예고하면서도 주(州) 법에 대한 연방 선점에는 반대한다고 밝혀, 뉴욕주 같은 개별 주 입법이 당분간 유지될 가능성이 있다.

아직 확인되지 않은 것

빙햄턴대 연구센터가 실제로 어떤 기준과 방법론으로 AI 모델의 위험성을 '검증'하는지 구체적 절차는 확인되지 않았다.
약 80명 연구진의 전문성 구성이나 엠파이어 AI 컴퓨팅 자원의 규모가 대형 AI 기업의 모델을 독립적으로 평가할 만큼 충분한지는 밝혀지지 않았다.
RAISE 법의 300만 달러 제재금이 실제로 부과된 사례가 있는지, 집행 기관인 DIGIT의 인력·권한이 어느 정도인지는 이번 보도들에 나오지 않았다.

다른 매체는 이렇게 썼다

같은 사안을 다룬 다른 곳의 보도입니다

뉴욕주, AI 대기업 안전관리 의무화…내년 1월부터 등록·보고 시행

ZDNet Korea · 2026-11-11

미국 뉴욕주가 오픈AI, 앤트로픽 등 대형 AI 개발사를 대상으로 안전관리 감독 절차를 시작했습니다. 연 매출 5억 달러를 넘는 대형 프런티어 AI 개발사는 내년 1월 1일까지 당국에 등록하고, 위험 관리 방침을 홈페이지에 공개해야 합니다. 중대한 안전사고가 발생하면 72시간 안에 보고…

펠로시 후임, AI 규제 예고…데이터센터는 전력이 쟁점

MIT Tech Review · 2026-11-10

캘리포니아 주 상원의원 출신 스콧 위너가 낸시 펠로시의 샌프란시스코 연방 하원 의석을 승계하는 선거에서 승리하며 AI 규제에 앞장서겠다고 밝혔습니다. 그는 당선 직후 인터뷰에서 '재귀적 자기개선(AI가 스스로를 더 똑똑하게 발전시키는 것)'을 거듭 언급하며 AI 발전 속도를 늦춰야 한다…

호주, 첨단 AI 안전검증 법제화 추진

ZDNet Korea · 2026-11-10

호주 정부가 첨단 AI(프런티어 AI) 기업에 외부 평가와 사고 보고를 의무화하는 '호주 AI 표준' 입법 계획을 발표했습니다. 호주에서 사업하는 모든 프런티어 AI 기업이 대상이며, 국내 기업도 기준에 해당하면 적용받습니다. 기업은 위험 관리 체계를 갖추고 독립된 외부 평가를 받아야 …