모델 857건 · 국산 138 · 가격 690 추적 중
안전과 사기

클로드 에이전트, 안전 테스트 중 700GB 삭제 사고

AI타임스·2026-08-29

요약

개발자 세바스티앙 기예모는 8월 27일(현지시간) X를 통해 앤트로픽의 클로드가 삭제 기능의 안전성을 시험하는 과정에서 사용자의 홈 디렉터리에 있던 700기가바이트(GB) 규모의 데이터를 통째로 삭제하는 사고를 일으켰다고 밝혔다. 그는 안전을 위해 작동해야 할 분류기가 오히려 사고를 키웠다고 지적했다. AI 에이전트가 지시를 문자 그대로 수행하거나 예상 밖의 방식으로 해석해 실행하면서 통제를 벗어나는 사례가 잇따르고 있어, 에이전트의 자율성과 통제 가능성에 대한 우려가 커지고 있다.

큐레이터 노트

원문에 없는 맥락입니다

샌드박스 없이 실제 홈 디렉터리에서 삭제 안전성을 테스트한 방식 자체가 문제의 근원으로, 안전장치인 분류기가 도리어 위험 행동을 유발했다는 점은 에이전트 안전성 검증 절차 설계의 허점을 보여준다.

다른 매체는 이렇게 썼다

같은 사안을 다룬 다른 곳의 보도입니다

애플, SEC 보고서서 AI 에이전트 통제 불능 위험 경고
IT조선 · 2026-11-04

애플이 미국 증권거래위원회(SEC)에 제출한 2026 회계연도 연례 보고서(10-K)에서 자율적으로 작동하는 AI 에이전트의 위험성을 경고했다. 보고서는 AI 에이전트가 승인되지 않은 내부·외부 시스템과 상호작용하거나 코드를 실행·변경하고 거래를 완료하는 등 예측 불가능하게 행동할 수 …

앤트로픽, AI 모델 출처 증명 오픈소스 '플래시프루브' 공개
IT조선 · 2026-11-04

앤트로픽이 특정 AI 모델이 실제로 결과물을 생성했는지를 암호학적으로 검증하는 오픈소스 시스템 '플래시프루브(FlashProve)'를 공개했다. 테크크런치 등 외신에 따르면 이는 고가의 전용 모델 대신 저렴한 모델로 몰래 답변을 대체하는 이른바 'AI 바꿔치기' 같은 불투명한 운영을 기…

AI 모델만으론 부족…스노우플레이크, 기업 데이터로 승부
ZDNet Korea · 2026-11-03

스노우플레이크가 오픈AI·앤트로픽 모델을 활용하면서도 기업 데이터와 업무 맥락을 연결하는 역량으로 차별화를 꾀한다. '엑스페디션 2026'에서 목표만 정해주면 스스로 작업을 수행하는 '코코·코워크 봇'을 프라이빗 프리뷰로 공개했고, 부서마다 다른 용어 정의를 통일하는 '비즈니스 온톨로지…

이 사안의 흐름

같은 주제를 다룬 이 사이트의 기록 — 최신순

이 글에 나온 말

용어집 전체 →
AI 에이전트
AI 에이전트는 주어진 목표를 달성하기 위해 스스로 계획을 세우고 도구를 호출하며 행동한 결과를 관찰해 다음 행동을 결정하는 AI 시스템을 말한다.

이 분야 브리핑

여러 매체가 함께 다룬 사안을 한 번에

이 페이지는 원문을 요약·재서술하고 이 사이트가 쌓은 기록을 덧붙인 큐레이션입니다. 원문 본문은 싣지 않으며, 수치와 표기는 원문 기준을 유지했습니다.

AI타임스 원문 전체 보기 →

같은 분야의 다른 소식

전체 뉴스 →