모델 851건 · 국산 132 · 가격 690 추적 중
AI 안전·정렬·평가

Anthropic, 챗봇에 대한 '학대적 행동' 금지 정책 발표

The Guardian AI·2026-10-09영문 원문

요약

Anthropic이 자사 AI 챗봇 Claude에 대해 '지속적이고 불필요한 학대적이거나 잔인한 행동'을 하지 못하도록 사용 정책을 변경했다. 회사 측 대변인은 구체적으로 어떤 행동이 학대적이거나 잔인한 콘텐츠로 분류되는지는 아직 명확히 밝히지 않았다. 이번 정책 변경은 Anthropic 경영진이 기계의 의식 가능성을 계속 고민하고 있는 가운데 나온 것으로, The Verge가 처음 보도했다.

큐레이터 노트

원문에 없는 맥락입니다

모델 '학대' 금지라는 표현 자체가 Anthropic이 모델 복지 혹은 기계 의식 가능성을 내부적으로 검토하고 있음을 시사하는 정책이라는 점이 주목할 부분이다.

다른 매체는 이렇게 썼다

같은 사안을 다룬 다른 곳의 보도입니다

로컬 LLM 4종·Claude 2종, 도구 호출 100과제 비교 테스트
GeekNews · 2026-11-03

한 개발자가 RTX 3090 한 장으로 로컬 LLM 4종(gemma4 26B, LFM2.5 24B, qwen3.8 27B, gpt-oss 20B)과 Claude Sonnet 5.5, Claude Haiku 5.5에 BFCL v4 다단계 도구 호출 과제 100개를 각각 5번씩 수행시키고 …

그록, 운영비 부담에 챗봇 사용 한도 축소
ZDNet Korea · 2026-11-02

그록 챗봇 운영사가 서비스 운영비 부담을 줄이기 위해 챗봇 사용 한도를 낮춘 것으로 전해졌다. 테크크런치 등 외신에 따르면 일부 이용자들은 핼러윈 주말 사이 사용 한도가 갑자기 소진됐다고 엑스(X)에 올렸다. 일론 머스크 스페이스X 최고경영자는 한도 조정 배경으로 운영 비용 문제를 들었…

크래프톤, K팝 AI 캐릭터 챗 서비스 '키프' 출시
ZDNet Korea · 2026-11-02

크래프톤이 K팝 아티스트의 페르소나를 반영한 AI 캐릭터 챗 서비스 '키프'의 국내 정식 서비스를 시작했다. 이용자는 아티스트가 구상한 캐릭터와 대화하며 팬덤 활동을 즐길 수 있고, AI 캐릭터는 대화 이력과 취향을 기억해 맞춤형 대화를 이어간다. 첫 참여 아티스트는 어트랙트 소속 피프…

이 사안의 흐름

같은 주제를 다룬 이 사이트의 기록 — 최신순

이 글에 나온 말

용어집 전체 →
챗봇
사용자와 자연어 대화를 주고받으며 질문에 답하거나 작업을 수행하는 소프트웨어 프로그램을 말한다.

이 분야 브리핑

여러 매체가 함께 다룬 사안을 한 번에

이 페이지는 원문을 요약·재서술하고 이 사이트가 쌓은 기록을 덧붙인 큐레이션입니다. 원문 본문은 싣지 않으며, 수치와 표기는 원문 기준을 유지했습니다.

The Guardian AI 원문 전체 보기 →

같은 분야의 다른 소식

전체 뉴스 →