"AI 안전"
뉴스
Cadence, OCP 칩렛 규격에 피지컬AI 안전요건 확장
Semiconductor Engineering이 11월 4일자 업계 블로그 모음을 공개했다. Cadence의 Mick Posner는 OCP의 파운데이션 칩렛 시스템 아키텍처에 실시간·안전 중시 물리 시스템 요건을 추가하는 피지컬 AI 서브프로젝트를 소개했다. Synopsys의 Charlie Matar는 설계 초점이 서버에서 랙 단위로 옮겨가며 실리콘 동작이 랙 전력·냉각 요건을 좌우하고, 랙 제약이 다시 칩·패키지 설계에 영향을 준다고 짚었다. Siemens의 Harry Foster는 SoC 동작에 영향을 주는 상호작용의 수와 다양성이 커지면서 검증 복잡성의 새로운 난제가 생기고 있다고 경고했다. Arm의 Zenon Xiu는 SME2의 쿼터타일·구조적 스파시티 명령어가 소형·양자화·희소 행렬 연산에 적합하다고 설명했으며, SEMI의 Sungho Yoon은 공정 소재 매출 증가와 신규 생산라인 증가를 웨이퍼 출하량 증가 전망의 요인으로 들었다.
국내 반도체 생태계인텔리빅스 GenAMS, 국정원 보안확인서로 공공시장 공략
인텔리빅스가 AI 기반 통합 안전관제 플랫폼 GenAMS로 국가정보원 보안기능 확인서를 획득했다고 4일 밝혔다. 인증 제품명은 'VIXA-AMS Platform v1.0S'이며, CCTV 영상 관리·저장 기능이 국가 보안 기준을 충족한다는 점을 인정받았다. GenAMS는 자체 AI 분석 엔진 '빅스 2.0'과 보고서 작성 AI 에이전트 '빅사'를 결합해 화재, 사고, 이상 상황을 탐지하고 보고서를 자동 생성하는 플랫폼이다. 이미 안양시, 화성시, 김포시, 고양시, 한국남동발전 등에 도입됐으며, 회사는 이번 확인서를 바탕으로 공공기관·산업현장·건설·국방 분야로 공급을 확대할 계획이라고 밝혔다.
휴데이터스 비전코어, 산업현장 위험 AI로 실시간 감지
한진 관계사 휴데이터스가 인천 송도컨벤시아에서 열린 '2026 국제치안산업대전(KPEX)'에서 AI 통합 안전 플랫폼 '비전코어'를 공개했다. 비전코어는 카메라 영상과 센서 데이터를 AI로 분석해 외부인 침입, 군중 밀집, 이상 음원 등 공공장소 위험과 위험구역 무단 진입, 안전 보호구 미착용, 화재 징후 등 산업현장 위험을 감지한다. 도로 영상에서는 포트홀과 균열, 불법 적치물도 식별해 관제 시스템에 전달할 수 있다. 플랫폼은 기존 카메라에 국산 신경망처리장치(NPU)를 탑재한 소형 AI 엣지박스를 추가해 구축하며, 영상 데이터를 현장에서 분석해 중앙 서버 연산 부담과 네트워크 전송량을 줄인다고 회사는 설명했다. 휴데이터스는 향후 물류 로봇과 자율이동로봇(AMR)으로도 기술 적용을 확대할 계획이다.
인텔리빅스 코스닥 상장 확정, 영상분석 AI 안전관제 사업 확장
인텔리빅스가 코스닥 상장을 위한 일반 투자자 공모주 청약에서 약 4조원 규모 증거금을 모으며 경쟁률 1410.9대 1을 기록했다. 앞서 기관투자자 수요예측에서도 약 21조원 규모 주문이 들어와 경쟁률 1234.3대 1을 기록했으며, 공모가는 희망 범위 상단에서 확정됐다. 2000년 설립된 인텔리빅스는 딥러닝 영상분석 기술로 공공기관과 산업 현장에 안전 관리 솔루션을 공급하며, 지난해 매출 466억원과 영업이익 49억원을 거뒀다. 기술특례가 아닌 일반상장으로 오는 30일 코스닥에 상장하며, 공모 자금은 영상분석 파운데이션 모델과 국방 AI 개발 등에 투입된다.
AI안전연구소, 제3자 평가 역할 검토 — 영국과 인력·예산 격차
마이크로소프트 브래드 스미스 부회장은 영국이 첨단 AI 모델의 위험성을 직접 시험하는 전문기관과 미국 정부와의 협력 관계를 갖춰 국제 AI 안전 기준을 주도하기에 적합하다고 평가했다. 영국 AI 보안연구소는 구글 등 AI 기업으로부터 신규 모델을 사전에 받아 위험성을 검증하고 있으며, MS도 이 연구소와 협력하고 있다. 한국 AI안전연구소도 미국·영국·일본·싱가포르 연구기관과 국제 평가 협력을 논의하며 미중 사이 제3자 평가국 역할을 검토하고 있다. 다만 김명주 AI안전연구소장에 따르면 국내 연구소의 기술 평가 인력과 예산, 조직적 독립성은 영국에 비해 크게 부족한 상황이다.
정책·수출통제·보조금MS 부회장, AI 안전규제 법제화 촉구 — 킬스위치 제안
마이크로소프트 브래드 스미스 부회장은 BBC 팟캐스트 인터뷰에서 AI가 우유나 세탁기보다 안전 규제가 미흡하다며 법적 구속력을 갖춘 안전장치가 필요하다고 밝혔다. 그는 AI가 통제를 벗어났을 때 작동을 멈추는 킬 스위치 도입과, 사고 발생 시 기업이 피해자에게 통보하도록 의무화하는 방안을 제안했다. 또한 정부의 독립적인 평가기관이 출시 전 AI의 위험성을 검증해야 한다고 강조했다. 이는 기업 자율규제를 우선하는 트럼프 행정부 정책과는 차이가 있으며, 그는 국제 AI 안전 기준을 주도할 국가로 영국을 지목했다.
정책·수출통제·보조금트럼프, AI 안전사고 책임 개발사에 묻는 방안 추진
블룸버그통신에 따르면 트럼프 행정부는 새 AI 안전 규제 대신 기존 법률을 활용해 AI 개발사에 사고 책임을 묻는 방안을 추진하고 있다. 스콧 베선트 재무장관과 데이비드 색스 전 백악관 AI 책임자는 기존 손해배상 책임이 새 규제보다 효과적이라는 입장을 밝혔다. AI 태스크포스 '슈퍼 인텔리전스 포스'는 앤트로픽 보안 침해 사고 이후 개발사에 보안 사고 즉각 보고와 피해 해결을 요구했다. 다만 컴퓨터 사기 및 남용 방지법은 고의성 입증을 요구해 AI 에이전트의 자율적 행동에 적용하기 어렵다는 지적이 나오며, 의회에서는 조시 홀리·크리스 머피·로리 트라한 의원 등이 관련 법안을 추진 중이다.
GPT-6.1·제미나이4·앤트로픽, AI 안전 이슈 잇따라 부상
오픈AI는 안전 기준 미달을 이유로 'GPT-6.1 아스트라' 출시를 보류하고, 대신 'GPT-6.1 솔'과 상시형 개인 에이전트 '닷츠'를 공개했다. 앤트로픽은 기업공개 투자설명서에 AI의 실존적 위험 가능성을 명시했으며, 구글은 새 플래그십 모델 '제미나이 4 아르곤'을 일반 공개에 앞서 사이버 방어 조직에 먼저 제공했다. 트럼프 대통령은 연방 문서에서 'AI' 대신 '슈퍼인텔리전스(SI)' 용어 사용을 명령하고 6개 기업과 자율 규제 합의문을 공개했으며, 캘리포니아주는 AI 단독 해고를 금지하는 'SB 947'에 서명했다. 국내에서는 'AI 페스타 26'이 개막했고, 전 국민 무료 AI 서비스 '모두의 AI'가 이달 베타 공개를 앞두고 있다.