모델 849건 · 국산 132 · 가격 688 추적 중
안전과 사기

클로드에 협박 남긴 여성, 美 경찰에 체포

AI타임스·2026-10-06

요약

AI 챗봇을 비공개 일기장처럼 쓰며 범죄를 계획하거나 협박하는 사용자들이 체포되는 사례가 이어지고 있다. 기존에는 오픈AI '챗GPT' 관련 사례가 많았지만, AI 안전을 강조해온 앤트로픽 '클로드'에서도 유사 사건이 발생했다. 걸프 코스트 뉴스 보도에 따르면 미국 플로리다주 리 카운티 보안관 사무소가 보니타 스프링스에 거주하는 30세 칼리 미셸 헬러를 강력 범죄 협박 혐의로 체포했다. 수사 기록상 헬러는 9월26일 클로드 대화창에 관련 내용을 남긴 것으로 나타났다.

큐레이터 노트

원문에 없는 맥락입니다

AI 챗봇과의 대화가 사적 기록이 아니라 법적 증거로 쓰일 수 있음을 보여주는 사례다.

깊이 읽기

이 기사 한 건이 아니라, 같은 사안을 다룬 이 사이트의 기록을 근거로 정리했습니다

이 일이 어디서 왔나

AI 챗봇 대화가 범죄 계획이나 협박의 도구로 쓰여 사용자가 체포되는 사례는 그간 주로 챗GPT와 관련해 보도됐다. 이번 사례는 안전성을 핵심 가치로 내세워온 앤트로픽의 '클로드'에서도 비슷한 일이 발생했다는 점에서 다른 보도들과 선을 긋는다. 같은 날 보도된 OpenAI 관련 소식들, 즉 뉴요커 만화가 서명 도용 논란이나 올트먼 인터뷰에서 자살 관련 질문이 차단된 사례와 함께 놓고 보면, AI 챗봇 운영사들이 공통으로 안전·신뢰 문제에 직면해 있음을 보여준다.

짚어야 할 점

  • 안전을 강조해온 앤트로픽의 서비스에서도 유사 사건이 발생했다는 점에서, AI 안전성을 기업 간 차별화 요소로 내세우는 마케팅과 실제 사용 현실 사이의 간극이 드러난다.
  • AI 챗봇과의 대화를 비공개 일기장처럼 여기는 사용자 인식과, 실제로는 수사기관이 확보 가능한 법적 증거로 남는다는 현실 사이에 괴리가 있다.
  • 같은 날 보도된 OpenAI 관련 사례들(홍보팀의 자살 질문 차단, 뉴요커 만화가 서명 도용)과 함께 보면, AI 대화 데이터가 책임·증거·저작권 등 여러 맥락에서 동시에 쟁점화되고 있다.

아직 확인되지 않은 것

  • 헬러가 클로드 대화창에 남긴 협박 내용이 구체적으로 무엇이었는지는 확인되지 않았다.
  • 앤트로픽 자체의 안전 모니터링 시스템이 이 대화를 사전에 감지해 신고했는지, 아니면 경찰이 별도 수사로 발견했는지는 나오지 않았다.
  • 이번 체포 이후 앤트로픽이 유사 사례 재발 방지를 위한 조치를 취했는지에 대한 설명은 제시되지 않았다.

다른 매체는 이렇게 썼다

같은 사안을 다룬 다른 곳의 보도입니다

오픈AI "챗GPT 검색량, 구글의 20% 수준"
The Verge AI · 2026-11-03

오픈AI는 월요일 열린 행사에서 챗GPT를 통한 검색 쿼리량이 구글 검색량의 20%에 달한다고 밝혔다. 발표자는 소비자 제품 담당 애덤 프라이로, 단어 정의나 간단한 사용법 설명이 아니라 실제 웹 검색으로 이어지는 입력만 '검색'으로 집계한다고 설명했다. 다만 비교 기준이 된 구글 검색…

건보공단, AI 상담·업무비서 고도화 사업 공고
ZDNet Korea · 2026-11-03

국민건강보험공단이 2026년 4월부터 운영 중인 AI 음성상담·챗봇과 직원용 업무비서를 개선하는 '2026년 지능형 AX 고도화 사업' 공고를 진행한다. 음성상담에는 고객 질문 의도를 더 정확히 파악하는 AI 모델을 도입하고, 정해진 질문·답변 방식이던 챗봇 상담 기능을 AI 챗봇으로 …

정비소 AI 음성상담원 '소피'와 통화한 뒤 느낀 배신감
The Guardian AI · 2026-11-02

가디언 칼럼니스트 휴 리민턴은 사륜구동차 수리를 맡긴 정비소에 전화를 걸었다가, 일주일 전에는 없었던 새 AI 음성 상담원 '소피'와 대화하게 됐다. 소피의 목소리는 따뜻하고 직접적이며 지적이고, 비굴하지 않게 도움을 주려는 태도를 보였다고 필자는 전한다. 그는 여러 질문을 던지며 소피…

이 사안의 흐름

같은 주제를 다룬 이 사이트의 기록 — 최신순

이 글에 나온 말

용어집 전체 →
챗봇
사용자와 자연어 대화를 주고받으며 질문에 답하거나 작업을 수행하는 소프트웨어 프로그램을 말한다.

이 분야 브리핑

여러 매체가 함께 다룬 사안을 한 번에

이 페이지는 원문을 요약·재서술하고 이 사이트가 쌓은 기록을 덧붙인 큐레이션입니다. 원문 본문은 싣지 않으며, 수치와 표기는 원문 기준을 유지했습니다.

AI타임스 원문 전체 보기 →

같은 분야의 다른 소식

전체 뉴스 →