미스트랄, 사이버공격 지원 가능성 인정…라지 4 가중치 공개

미스트랄 AI가 멀티모달 모델 '미스트랄 라지 4'(별칭 르 숑크)의 가중치를 공개했다. 회사는 프리뷰 기간 모니터링 결과 모델이 실제 대상을 겨냥한 공격 요청은 거부했지만, 역량이 발전하면서 사이버공격 수행 능력을 높이는 데 악용될 가능성도 있다고 밝혔다. 이미 배포된 모델은 이후 안전장치 업데이트 대상에서 제외되며, 업데이트는 미스트랄의 관리형 API와 향후 릴리스에만 적용된다. 미스트랄은 자체 테스트에서 라지 4가 사이버보안 관련 악성 프롬프트의 96.6%를 거부했다고 밝혔으나, 가트너 애널리스트는 이 수치가 실제 공격 환경에서의 행동을 보여주는 것은 아니라고 지적했다. EU AI법은 일정 연산량을 넘는 모델을 시스템적 위험으로 간주해 위험평가·사고보고 의무를 부과하는데, 미스트랄은 라지 4가 이에 해당하는지 밝히지 않았다.

이 일이 어디서 왔나

미스트랄의 이번 발표는 AI가 해킹 도구로 악용될 수 있다는 우려가 국내외에서 동시에 제기되는 가운데 나왔다. 앞선 ZDNet코리아 보도들은 국내 금융회사 16곳이 AI를 활용한 자동화 공격에 뚫린 사례와, AI 해킹에는 AI 방어가 필요하다는 전문가 의견을 다뤘다. 한편 EU AI법의 시스템적 위험 규제와 관련해서는 KOSA가 독일AI협회와 유럽 규제 대응 정보 교류 MOU를 맺은 사례도 있어, 모델 공개사의 자체 위험평가 투명성이 계속 쟁점이 되고 있다.