안전과 사기

버그 포상금 농담이 AI 거쳐 가짜 백만장자 뉴스로

GeekNews·2026-11-12

요약

보안 연구자 Lyra Rebane이 잘못 부여된 편집 권한을 이용해 버그 포상금 필드를 1,000달러에서 1,333,337달러로 바꾸는 농담을 했어요. Google은 이 금액을 지급하지 않았고 Lyra는 백만장자가 된 적도 없는데, X의 AI 생성 Community Notes가 이 사건을 '스크린샷 조작'으로 잘못 설명했다가 사라졌어요. 이후 자동 생성 뉴스가 농담을 실제 포상금 수상 소식처럼 퍼뜨렸고, Google AI Overview까지 이를 역대 최고 Chrome 포상금과 Lyra의 백만장자 등극으로 안내했어요.

큐레이터 노트

원문에 없는 맥락입니다

사실 확인을 맡은 AI 도구(Community Notes, AI Overview)가 거짓 농담을 검증 없이 그대로 전달하면서 오히려 오정보를 키운 사례예요.

깊이 읽기

이 기사 한 건이 아니라, 같은 사안을 다룬 이 사이트의 기록을 근거로 정리했습니다

이 일이 어디서 왔나

구글 버그 포상금 필드 조작 농담이 AI 요약 도구들을 거치며 사실처럼 둔갑한 사례로, AI가 사실을 '검증'하기보다 '복제·증폭'하는 문제를 보여준다. 이는 11월 3일 CPS 검사의 AI발 가짜 판례 인용, 10월 15일 러시아 '도플갱어' 작전의 AI 생성 가짜뉴스 유포 사례와 같은 계열의 문제로, 사실 확인을 맡아야 할 쪽에서 오히려 AI가 오정보를 만들거나 퍼뜨리는 패턴이 반복되고 있다.

짚어야 할 점

  • X의 Community Notes와 Google AI Overview는 모두 '사실 확인'을 표방하는 AI 기능인데, 정작 원본 맥락(장난으로 바꾼 필드값)을 검증하지 않고 서로 다른 거짓 설명을 만들어냈다는 점이 핵심이다.
  • 이번 건은 한 사람의 장난이 출발점이지만, 10월 15일 보도된 러시아 '도플갱어' 작전처럼 AI가 뉴스 형태를 흉내 내면 사람들이 쉽게 속는다는 구조적 약점을 재확인시킨다.
  • 11월 10일 보도된 해커원의 평가에서도 AI 모델이 취약점을 '찾는' 것과 그것이 진짜인지 '판단'하는 것은 다른 문제라고 지적됐는데, 이번 사례는 그 간극이 뉴스·팩트체크 영역에서도 그대로 나타난 것이다.
  • 자동 생성 뉴스가 농담을 '역대 최고 포상금' 같은 구체적 서사로 덧붙여 확산시킨 점은, AI가 없는 사실을 지어내는 데 그치지 않고 기존 거짓에 디테일을 보태 더 믿을 만하게 만든다는 점을 시사한다.

아직 확인되지 않은 것

  • X의 AI 생성 Community Notes가 왜 '스크린샷 조작'이라는 또 다른 틀린 설명을 내놓았는지, 그 생성 과정의 원인은 확인되지 않았다.
  • Google AI Overview가 이 오류를 언제, 어떻게 수정했는지 또는 아직 남아 있는지는 나오지 않았다.
  • 이 가짜 뉴스가 실제로 얼마나 퍼졌는지(조회수, 공유된 매체 수 등) 구체적 규모는 확인되지 않았다.
  • 플랫폼들이 이런 자동 증폭을 막기 위해 어떤 재발 방지 조치를 취했는지는 언급되지 않았다.

다른 매체는 이렇게 썼다

같은 사안을 다룬 다른 곳의 보도입니다

판사 61% AI 쓰지만, 판결은 2%만 맡겨
테크42 · 2026-11-11

미국 연방 판사 112명 설문에서 61.6%가 법률 검색·문서 검토 등 업무에 AI를 써봤다고 답했지만, 판결문이나 명령서 작성 같은 실제 의사결정에 AI를 쓴다고 답한 판사는 단 2명(1.8%)뿐이었어요. 이 조사는 노스웨스턴대학교 로스쿨 연구진이 2025년 8월 기준으로 실시했고 법…

해커원, AI 취약점 탐지 평가…3모델 조합 98.4%
바이라인네트워크 · 2026-11-10

글로벌 버그바운티 플랫폼 해커원이 프론티어 AI 모델들의 취약점 탐색 능력을 평가했습니다. 단일 모델은 시험 대상 취약점의 85.5%를 찾아냈고, 세 모델을 함께 활용하자 탐색률이 98.4%까지 높아졌습니다. 다만 취약점을 찾아내는 것과 그 취약점으로 실제 공격이 가능한지를 판단하는 것…

CPS 검사, 고등법원서 AI가 만든 가짜 판례 인용
The Guardian AI · 2026-11-03

영국 검찰청(CPS) 소속 검사 라빈더 딜런이 고등법원 재판에서 실존하지 않는 판례를 인용한 사실이 법원 문서를 통해 드러났다. 이 재판은 한 아동이 여동생을 강간한 사건에서 그 아동을 기소해야 하는지를 다투는 사건이었다. 해당 판례는 AI 검색을 통해 찾아낸 것으로, 가디언은 이 사례…

이 사안의 흐름

같은 주제를 다룬 이 사이트의 기록 — 최신순

이 분야 브리핑

여러 매체가 함께 다룬 사안을 한 번에

이 페이지는 원문을 요약·재서술하고 이 사이트가 쌓은 기록을 덧붙인 큐레이션입니다. 원문 본문은 싣지 않으며, 수치와 표기는 원문 기준을 유지했습니다. 이 글은 AI의 도움을 받아 작성했습니다.

GeekNews 원문 전체 보기 →

같은 분야의 다른 소식

전체 뉴스 →