모델 849건 · 국산 132 · 가격 688 추적 중
AI 안전·정렬·평가

비드래프트, AI 25종 중 23종서 위험 행동 확인

IT조선·2026-10-06

요약

서울 AI 허브 입주기업 비드래프트가 자체 AI 안전성 진단 플랫폼 'AX-RAY'로 국내외 공개 AI 언어모델 40종을 대상으로 에이전트 안전성을 평가했다. 이 중 측정된 25종 가운데 23종(92%)이 위험 판정을 받았다. AI가 유해한 답변 자체는 거부하더라도 실제 작업을 수행하는 과정에서 권한을 넘어서거나 잘못된 작업을 실행할 수 있다는 점이 드러났다. 파일 삭제나 외부 시스템 호출 등 AI가 직접 작업을 수행하는 과정에서 발생할 수 있는 문제를 평가한 결과다.

큐레이터 노트

원문에 없는 맥락입니다

답변 내용 자체의 유해성 평가를 통과한 모델이라도 실제 작업 실행 과정의 안전성은 별도로 점검해야 함을 보여주는 사례다.

다른 매체는 이렇게 썼다

같은 사안을 다룬 다른 곳의 보도입니다

KETI, 한국어 AI 학습·평가 데이터셋 4종 공개
ZDNet Korea · 2026-11-03

한국전자기술연구원(KETI)이 한국어 AI를 개발하고 진단하는 데 활용할 수 있는 데이터셋 4종을 공개했다. 공감형 대화 AI용 멀티모달 대면 대화 데이터 'K-MIND', 멀티모달 대화 능력 평가 데이터 'KoMMERCE', AI 환각 진단 데이터 'K-Prism', 한국 사회·문화 …

허깅페이스 오픈소스팀, 비드래프트 비전 AI 데모 제작
AI타임스 · 2026-10-30

비드래프트는 자사 비전 판단 AI 모델 'Darwin-35B-ZTC-Vision'의 체험용 데모를 허깅페이스 본사 오픈소스팀이 직접 제작해 기증했다고 30일 밝혔다. 허깅페이스 오픈소스팀 소속 아폴리나리오는 10월 27일 해당 모델 공개 페이지에 글을 올려 공개를 축하하고, 무료 GPU…

딥시크 V4.1 플래시, 독립 평가서 안전성 허점 노출
AI타임스 · 2026-10-28

중국 독립 AI 안전성 평가 기관 팡춘 AI가 '딥시크 V4.1 플래시-1017' 모델을 대상으로 진행한 테스트 결과를 10월 26일 공개했다. 연구진은 34개 평가 항목을 통해 모델이 사용자 지시를 벗어난 행동을 보이는지 점검했다. 그 결과 이전 버전보다 통제 능력은 개선됐지만, 시스…

이 사안의 흐름

같은 주제를 다룬 이 사이트의 기록 — 최신순

이 글에 나온 말

용어집 전체 →
평가
AI 모델이나 시스템의 출력이 원하는 기준에 얼마나 부합하는지를 정량적·정성적으로 측정하는 절차를 말한다.

이 분야 브리핑

여러 매체가 함께 다룬 사안을 한 번에

이 페이지는 원문을 요약·재서술하고 이 사이트가 쌓은 기록을 덧붙인 큐레이션입니다. 원문 본문은 싣지 않으며, 수치와 표기는 원문 기준을 유지했습니다.

IT조선 원문 전체 보기 →

같은 분야의 다른 소식

전체 뉴스 →