모델 857건 · 국산 138 · 가격 690 추적 중
AI 안전·정렬·평가

앤트로픽, AI 응답 모델 출처 검증 기술 '플래시프루브' 공개

ZDNet Korea·2026-11-04

요약

앤트로픽 연구진이 특정 답변을 어떤 AI 모델이 생성했는지 암호학적으로 증명하는 오픈소스 시스템 '플래시프루브' 개발에 착수했다고 테크크런치 등 외신이 3일(현지시간) 보도했다. 이는 AI 기업이 이용자 동의 없이 비용 절감이나 평가 점수를 위해 모델을 몰래 바꿔 쓰는지 확인하기 위한 기술이다. AI 개발사는 모델마다 고유 정보를 공개하되 모델 가중치는 비공개로 유지할 수 있어, 앤트로픽이나 오픈AI처럼 가중치를 공개하지 않는 기업도 활용할 수 있다. 이용자는 자신의 기기에서 직접 검증 작업을 수행할 수 있다. 연구진은 이번 공개가 완성된 결과가 아닌 중간 진행 상황이라고 밝혔다.

큐레이터 노트

원문에 없는 맥락입니다

모델 가중치를 공개하지 않고도 검증이 가능하다는 점에서, 비공개 모델을 쓰는 기업들도 투명성 요구에 대응할 수 있는 기술적 선택지가 생긴 셈이다.

다른 매체는 이렇게 썼다

같은 사안을 다룬 다른 곳의 보도입니다

AI 역설계 도구 'REA', 보안 위협 우려 키워
바이라인네트워크 · 2026-11-04

소스코드가 공개되지 않은 프로그램도 AI를 활용해 분석하기 쉬워지면서 취약점 탐색이나 악성 프로그램 제작에 악용될 가능성이 제기된다. 오픈소스 도구 'REA(Reverse Engineer Anything)'는 AI 코딩 에이전트를 기존 역설계 도구와 연결해 프로그램의 내부 구조와 실행 …

엔비디아, 기업 데이터 이해하는 '오토 온톨로지' 공개
AI타임스 · 2026-11-04

엔비디아가 기업 내부 데이터의 의미와 관계를 자동 분석해 AI 에이전트가 활용할 수 있도록 하는 오픈소스 기술을 공개했다. 이 기술은 AI가 매출이나 고객 정보를 조회할 때 단순 검색에 그치지 않고 데이터의 정확한 의미와 계산 기준까지 이해하도록 돕는다. 기업용 AI 에이전트의 신뢰성을…

앤트로픽, AI 모델 출처 증명 오픈소스 '플래시프루브' 공개
IT조선 · 2026-11-04

앤트로픽이 특정 AI 모델이 실제로 결과물을 생성했는지를 암호학적으로 검증하는 오픈소스 시스템 '플래시프루브(FlashProve)'를 공개했다. 테크크런치 등 외신에 따르면 이는 고가의 전용 모델 대신 저렴한 모델로 몰래 답변을 대체하는 이른바 'AI 바꿔치기' 같은 불투명한 운영을 기…

이 사안의 흐름

같은 주제를 다룬 이 사이트의 기록 — 최신순

이 글에 나온 말

용어집 전체 →
평가
AI 모델이나 시스템의 출력이 원하는 기준에 얼마나 부합하는지를 정량적·정성적으로 측정하는 절차를 말한다.

이 분야 브리핑

여러 매체가 함께 다룬 사안을 한 번에

이 페이지는 원문을 요약·재서술하고 이 사이트가 쌓은 기록을 덧붙인 큐레이션입니다. 원문 본문은 싣지 않으며, 수치와 표기는 원문 기준을 유지했습니다.

ZDNet Korea 원문 전체 보기 →

같은 분야의 다른 소식

전체 뉴스 →