"증류"
뉴스
엣지 AI 모델 경량화, 양자화·증류로 온디바이스 최적화
엣지 디바이스용 AI 모델은 데이터센터용 거대 언어모델과 달리 제한된 전력·메모리·면적 안에서 적정 크기로 설계돼야 한다. Imagination Technologies, 인피니언 자회사 Imagimob, Rambus 관계자들은 양자화, 증류, 가지치기, 자기압축 등 여러 압축 기법을 혼합해 모델을 경량화한다고 설명했다. 모델은 기기 내 다른 애플리케이션과 메모리·연산 자원을 공유하기 때문에, 설계 초기 단계부터 목표 성능과 압축 후 정확도를 함께 고려해야 한다고 강조했다. 최적화된 모델은 C코드로 변환돼 타깃 하드웨어에 탑재되지만, MCU·가속기·NPU·DSP 등 다양한 엣지 하드웨어에서 표준화된 툴 없이 효율적으로 구동시키는 것이 여전히 과제로 지목됐다.
美 AI기업 '모델 증류 공격' 경고...中 '대응조치' 예고
미국 프런티어 AI 기업들이 자사 모델을 겨냥한 정교한 증류(distillation) 공격에 대해 당국에 우려를 전달했다고 블룸버그가 보도했다. 증류는 상위 모델의 프롬프트와 응답을 활용해 소형 모델을 학습시키는 기법으로, 중국과 러시아가 이를 통해 적은 비용으로 유사한 성능의 모델을 만들고 있다는 의혹이 제기됐다. 중국은 이런 주장을 부인하면서도 미국이 이를 빌미로 중국의 AI 개발을 억제하려 할 경우 '대응 조치'를 취하겠다고 밝혔다. 앤트로픽은 2026년 9월 보고서에서 증류 공격 탐지·차단 사례를 공개했으며, 제3자 서비스의 대화 로그 구매 등으로 인해 완전한 차단은 어렵다고 설명했다. 미중 정상은 9월 24일 회담을 앞두고 있다.
정책·수출통제·보조금중국 기관, 클로드로 군사 SW 개발·위구르 감시·증류
앤트로픽이 발표한 2026년 9월 위협 보고서에 따르면, 중국계 행위자들이 최소 5개 프로그램에서 Claude를 오용한 것으로 나타났다. 한 행위자는 미 국방업체로 위장해 어뢰방어 화력통제 사양을 작성했고, 다른 행위자는 대만 내 패트리엇·톈쿵 포대, 조기경보 레이더, 지휘벙커 등을 표적으로 한 방공제압 소프트웨어 모듈 약 16개를 개발했다. 별도 계정은 시리아 내 위구르 무장단체에 침투해 디아스포라 활동가와 언론을 감시하는 데 Claude를 활용했다. 또한 알리바바 등 다수 중국 AI 기업이 2026년 5~7월 사이 1억5100만 건 이상의 Claude 대화를 생성해 자사 모델을 훈련시키는 증류(distillation) 캠페인을 벌였다고 앤트로픽은 밝혔다.
정책·수출통제·보조금클로드 추론 과정 증류, 알리바바·문샷AI 소형모델에 활용
앤트로픽은 위협 인텔리전스 보고서를 통해 중국발 5개 증류 공격 캠페인과 관련된 클로드 대화 약 2억건을 확인했다고 밝혔다. 관련 기업으로 알리바바와 문샷AI가 꼽혔으며, 공격은 클로드의 에이전틱 기능, 도구 사용, 코딩·데이터 분석, 논리적 추론 능력을 겨냥했다. 공격자는 번역 요청 등으로 질문을 위장해 클로드가 내부 사고 흔적을 드러내도록 유도한 뒤 이를 추출해 소형 모델 미세조정에 활용한 것으로 파악됐다. 알리바바 관련 캠페인은 5월부터 7월까지 3500개 계정으로 약 1억 5100만건의 대화가 확인돼 가장 규모가 컸고, 문샷AI 관련 캠페인에서는 CCTV 영상 속 이상행동 판단을 요구하는 등 중국군 요청으로 추정되는 내용도 발견됐다.
