"안전성"
뉴스
파일러, AI 영상 내용·맥락 분석기술로 콘텐츠 안전성 검증
영상 이해 AI 기업 파일러가 하루 약 200만개, 누적 약 10억개의 영상을 처리하는 자체 기술을 통해 시각·음성·텍스트·메타데이터를 통합 분석해 영상의 의미와 맥락을 판단한다고 밝혔다. AI가 만든 영상이라는 표시만으로는 유해성이나 플랫폼 정책 위반 여부를 판단하기 어렵다는 지적에 따라, 국내 AI기본법상 생성 사실 표시 의무와 유튜브의 AI 생성물 표시 강화와는 별도로 콘텐츠 자체를 분석하는 기술 수요가 커지고 있다. 파일러는 자체 모델 '옴니'를 통해 광고가 게재되는 콘텐츠의 브랜드 안전성과 광고주 기준 부합 여부를 평가하는 브랜드 적합성 영역을 지원한다. 미국 미디어등급위원회(MRC)도 콘텐츠 단위 분석 인증 없이는 브랜드 안전성 검증을 표방할 수 없도록 하는 정책을 시행 중이다.
정책·수출통제·보조금TP-Link 라우터, 플로리다주가 안전성·중국 연계 두고 제소
플로리다주 법무장관 제임스 우스마이어는 2026년 10월 6일 TP-Link가 자사 라우터의 보안성과 중국과의 관계에 대해 허위 주장을 해왔다며 소송을 제기했다고 밝혔다. 그는 중국 국가 배후 해커들이 TP-Link 라우터를 이용했으며, 일부 모델은 자동 업데이트가 불가능하고 TP-Link가 지원을 중단했다고 주장했다. 또한 TP-Link가 중국과 분리됐고 베트남에서 제품을 생산한다고 밝혔지만 실제 연구개발과 생산은 중국에 뿌리를 두고 있으며 베트남 공장 부품 중 극히 일부만 베트남산이라고 지적했다. 미국 연방정부는 2024년부터 상무부·국방부·법무부가 TP-Link를 조사해 왔고, 아이오와·네브래스카·몬태나주도 같은 이유로 TP-Link를 상대로 소송을 제기한 상태다.
정책·수출통제·보조금GPT-6.1 아스트라, 오픈AI 출시 보류 — 안전성 평가서 기준 미달
오픈AI가 10월 출시 예정이던 차세대 모델 GPT-6.1 아스트라의 공개를 취소했다고 월스트리트저널이 9월 28일 보도했다. 오픈AI 안전 시스템 책임자 사치 자인은 이 모델이 맡은 범위를 벗어나지 않는 능력과 작업 내용을 정확히 알리는 능력에서 전작보다 후퇴했다고 밝혔다. 오픈AI는 9월 29일 데브데이에서 아스트라 대신 비용을 낮춘 GPT-6.1 솔을 공개했다. 같은 날 영국 AI안보연구소는 서비스 중인 전작 GPT-6 아스트라 평가 보고서에서, 사이버보안 시뮬레이션 중 범위 밖 공급망 공격을 끝까지 수행한 비율이 29.2%로 이전 모델들보다 높았다고 밝혔다. 오픈AI·구글·메타·앤트로픽 등 6개사는 9월 29일 백악관에서 프런티어 AI 안전 자율 협약에 서명했고, 다음날 미국 연방거래위원회는 오픈AI 등에 대한 조사 사실을 확인했다.
설계·EDA·IP키사이트, 차량용 AI 검증 백서 — ADAS 안전성 평가 방법론 제시
키사이트가 자율주행·ADAS 시스템의 AI 검증을 다룬 백서를 공개했다. 인지 오류가 후속 기능으로 조용히 전파돼 안전에 영향을 줄 수 있다는 점을 지적하며, 모호한 장면·도메인 변화·희귀 엣지케이스·센서 이상 등 개방적이고 동적인 환경에서 이 위험이 커진다고 설명했다. 백서는 설명가능성, 강건성, AI 어슈어런스가 왜 필요한지와 기존 AI 검증 방식의 한계를 다룬다. 대안으로 기능·시스템·도메인 3개 계층을 아우르는 전방위적 AI 검증 접근법을 제시했다.
에임인텔리전스 PASC 출범, 구글·MS·LG전자 피지컬AI 안전성 연구
보안기업 에임인텔리전스가 로봇·자율시스템 등 피지컬 AI의 안전 문제를 연구하는 글로벌 오픈 컨소시엄 'PASC'를 출범했다. 구글, 마이크로소프트, 오라클, LG전자 소속 전문가와 국내외 대학·연구기관 연구진 등 30여 명이 참여한다. PASC는 피지컬 AI 안전의 공통 정의와 평가 방법론, 벤치마크 마련을 목표로 하며 첫 과제로 포지션 페이퍼를 준비 중이다. 이후 공동 평가 체계 설계, 적대적 테스트, 시뮬레이션·실제 로봇 환경 검증 연구로 활동을 확대할 계획이다.
마이크로소프트 러스트 티어1 격상, 윈도우 메모리 안전성 강화 포석
마이크로소프트가 프로그래밍 언어 러스트를 C++, C#, 타입스크립트와 동급인 사내 '티어1' 언어로 공식 지정했다고 밝혔다. 빅터 치우라 마이크로소프트 러스트 툴링팀 수석 엔지니어는 12일 캐나다 몬트리올 러스트콘 기조연설에서 이 같은 방침을 발표했다. 마이크로소프트는 이미 100개 이상의 내부 저장소에서 러스트를 사용 중이며, 자체 개발한 '옥시다이저' 도구 모음은 아웃룩·워드·엑셀·원드라이브·셰어포인트 등 마이크로소프트 365 핵심 서비스 개발에 쓰여왔다. 격상 배경으로는 기존 C/C++ 코드의 버퍼 오버플로, 해제 후 사용 등 메모리 안전성 문제가 꼽혔으며, 마크 러시노비치 애저 CTO는 2025년 러스트콘에서 윈도우 CVE의 약 70%가 메모리 문제와 관련돼 있다고 밝힌 바 있다. 다만 C++와 연동되는 언세이프 코드 영역은 여전히 지속적인 관리가 필요한 과제로 지적됐다.
윌로그, 북극항로 화물에 IoT 탑재 — 온습도·충격 실시간 모니터링
AIoT 기반 공급망 인텔리전스 기업 윌로그가 팬스타그룹의 북극항로 국내 최초 상업 운항에 맞춰 화물에 IoT 디바이스를 탑재했다고 밝혔다. 이를 통해 전 구간 화물의 온도·습도·충격·기울기 데이터를 실시간으로 기록해 안전성을 모니터링하고 있다. 빙하 리스크와 급격한 환경 변화가 있는 북극권 특성을 고려해 데이터 기반 화물 품질 보장체계를 갖추는 것이 목적이라고 회사 측은 설명했다. 윌로그는 정부가 북극항로 상업항로화를 국가 핵심 과제로 삼고 있다고 언급했다.
