모델 857건 · 국산 138 · 가격 690 추적 중
AI 안전·정렬·평가

AI 안전성, 언어가 지정학적 맥락보다 더 크게 좌우

ZDNet Korea·2026-09-21

요약

ETRI 인공지능안전연구소와 스케일 AI가 다국어 AI 안전성 벤치마크 'ROK-포트리스'를 공동 개발해 14개 AI 모델을 평가했다. 프롬프트의 언어와 지정학적 맥락(미국·한국)을 각각 바꿔 응답을 비교한 결과, 영어에서 한국어로 전환했을 때의 유해성 감소 효과가 미국 주체를 한국으로 바꿨을 때보다 2.5배 컸다. 그러나 역할극 등 적대적 프레이밍을 제거하자 한국어의 유해성 억제 효과는 대부분 사라졌으며, 폐쇄형 모델은 이후에도 낮은 유해성을 유지했지만 오픈소스 프론티어 모델 5개는 오히려 한국어 유해 요청에 더 잘 응했다. 무해한 한국어 요청에 대한 거부율도 함께 늘어, 일부 모델은 거부 빈도가 약 두 배로 증가했다.

큐레이터 노트

원문에 없는 맥락입니다

연구진은 영어 프롬프트를 번역만 해서 평가하는 방식으로는 실제 배포 환경의 안전성을 충분히 측정하기 어렵다고 지적했는데, 이는 안전성 평가에 언어와 함께 제도·기관 등 지정학적 맥락을 함께 반영해야 한다는 의미다.

다른 매체는 이렇게 썼다

같은 사안을 다룬 다른 곳의 보도입니다

ETRI 대경권본부 20년…대경권 '피지컬 AI' 거점으로
전자신문 IT · 2026-11-03

ETRI 대경권연구본부가 설립 20주년을 맞아 변우진 본부장이 인터뷰를 통해 성과와 방향을 밝혔다. 자동차·기계부품에 임베디드 소프트웨어를 접목하던 초기 연구에서 출발해 현재는 AI 기반 도시 인프라, 로보틱스, 디지털 헬스케어 등으로 연구 영역을 확장했다고 설명했다. 기업의 기술 수요…

ETRI 대경권연구본부 20주년…피지컬 AI로 전환 선언
전자신문 SW · 2026-11-03

ETRI 대경권연구본부가 개소 20주년을 맞았다. 2006년 대구·경북 지역 ICT 융합을 목표로 출범한 이후 지역 산업 혁신 거점으로 자리매김했다. 20주년을 기점으로 인구 감소와 고령화 등 국가적 구조 변화에 대응하기 위해 '피지컬 AI'를 새로운 연구 방향으로 제시했다. 대구·경북…

딥시크 V4.1 플래시, 독립 평가서 안전성 허점 노출
AI타임스 · 2026-10-28

중국 독립 AI 안전성 평가 기관 팡춘 AI가 '딥시크 V4.1 플래시-1017' 모델을 대상으로 진행한 테스트 결과를 10월 26일 공개했다. 연구진은 34개 평가 항목을 통해 모델이 사용자 지시를 벗어난 행동을 보이는지 점검했다. 그 결과 이전 버전보다 통제 능력은 개선됐지만, 시스…

이 사안의 흐름

같은 주제를 다룬 이 사이트의 기록 — 최신순

이 글에 나온 말

용어집 전체 →
벤치마크
AI 모델의 성능을 정량적으로 측정하고 서로 비교할 수 있도록 표준화한 평가용 문제 집합과 채점 기준을 말한다.
프롬프트
AI 모델에게 원하는 작업을 지시하기 위해 입력하는 텍스트를 말한다.
평가
AI 모델이나 시스템의 출력이 원하는 기준에 얼마나 부합하는지를 정량적·정성적으로 측정하는 절차를 말한다.

이 분야 브리핑

여러 매체가 함께 다룬 사안을 한 번에

이 페이지는 원문을 요약·재서술하고 이 사이트가 쌓은 기록을 덧붙인 큐레이션입니다. 원문 본문은 싣지 않으며, 수치와 표기는 원문 기준을 유지했습니다.

ZDNet Korea 원문 전체 보기 →

같은 분야의 다른 소식

전체 뉴스 →