"AI안전"
뉴스
AI안전연구소, 제3자 평가 역할 검토 — 영국과 인력·예산 격차
마이크로소프트 브래드 스미스 부회장은 영국이 첨단 AI 모델의 위험성을 직접 시험하는 전문기관과 미국 정부와의 협력 관계를 갖춰 국제 AI 안전 기준을 주도하기에 적합하다고 평가했다. 영국 AI 보안연구소는 구글 등 AI 기업으로부터 신규 모델을 사전에 받아 위험성을 검증하고 있으며, MS도 이 연구소와 협력하고 있다. 한국 AI안전연구소도 미국·영국·일본·싱가포르 연구기관과 국제 평가 협력을 논의하며 미중 사이 제3자 평가국 역할을 검토하고 있다. 다만 김명주 AI안전연구소장에 따르면 국내 연구소의 기술 평가 인력과 예산, 조직적 독립성은 영국에 비해 크게 부족한 상황이다.
정책·수출통제·보조금중국 AI안전 프레임워크3.0, 속도우선 전략 재확인
TC260과 CAC가 2026년 9월 14일 발표한 AI 안전 거버넌스 프레임워크 3.0은 AI의 자율학습과 재귀적 자기개선 경향에 경계가 필요하다고 밝히고 '기대 이탈 행동' 등 새로운 모델 위험 범주를 도입했다. 그러나 SemiAnalysis는 중국의 실제 접근이 혁신과 개발을 최우선으로 두는 속도 중심 방식이며, 포괄적 AI법은 2025년 DeepSeek 모멘트 이후 보류됐다고 분석했다. 중국은 콘텐츠 라벨링, 사이버보안법, 미성년자 정보 분류, AI 윤리심사, 에이전트 규칙 등 응용·콘텐츠 단계 규제는 다수 도입했지만, 훈련 연산량이나 모델 능력에 따른 프런티어 위험 의무는 두지 않았다고 전했다. 이는 유럽연합과 미국 캘리포니아 SB53의 프런티어 규제보다 느슨한 수준이라고 기사는 설명했다.
밀라 AI안전 강조, 에이전틱 AI 위험통제 기반으로 제시
프레데릭 로랑 밀라(MILA) 파트너십 총괄은 10월 7일 서울 코엑스 'AI 페스타 2026' 퓨처 테크 컨퍼런스에서 AI 안전이 AI 도입을 늦추는 규제가 아니라 가속화하는 기반이라고 강조했다. 그는 AI 챗봇을 속여 저가에 판매하게 만든 사례와 여러 차례 대화로 안전장치를 우회하는 '크레센도 공격' 사례를 들어 AI 공격 방식이 정교해지고 있다고 경고했다. 로랑 총괄은 한국어가 자모 분해, 구형 모델 사용 시 발생하는 안전 착각, 문화적 불일치 등으로 AI 공격에 상대적으로 취약한 언어 중 하나라고 지적했다. 이어 신뢰할 수 있는 AI를 위해 데이터 필터링, 파인튜닝, 프롬프팅, 런타임 가드레일의 4단계 설계를 조언하며 AI 에이전트는 정렬 위장, 자기 보존 등 통제가 더 어려운 행동을 보일 수 있다고 우려했다.