모델 849건 · 국산 132 · 가격 688 추적 중
이슈 브리핑

딥페이크 확산, 탐지·규제 대응 본격화

통화 사기부터 정치 광고, 로맨스 스캠까지 딥페이크를 이용한 피해가 여러 나라에서 잇따라 보도됐다. 이에 맞서 통신사와 연구기관은 탐지 기술을 내놓고, 일부 지역은 AI 생성물 표시를 법으로 의무화하기 시작했다.

7개 매체·기사 12건·2026-10-31제도와 권리

무슨 일이 있었나

  • LG유플러스가 통화 시작 5초 안에 합성 음성을 판별하는 '안티딥보이스'를 '익시오'에 탑재했고, 삼성·SK텔레콤·KT도 통화 중 실시간 탐지 기능을 제공한다고 테크42가 10월 25일 보도했다.
  • 미국 펜실베이니아 주지사 조시 샤피로가 AI로 생성·수정된 광고에 같은 형식의 라벨을 붙이도록 의무화하는 법안에 서명했다고 The Verge가 10월 24일 보도했다.
  • 스페인 보수야당 인민당(PP)이 페드로 산체스 총리 부인 등을 조작한 딥페이크 정치 광고를 소셜미디어에 올려 논란이 일었다고 The Guardian이 보도했다.
  • 숭실대·중앙대 공동연구팀이 립싱크 딥페이크 생성을 방해하는 'MUTE' 기술을 개발했고, 관련 논문이 NeurIPS 2026에 채택됐다고 ZDNet Korea가 보도했다.
  • 브라질의 벽돌공 에디마르 마르틴스가 AI로 만들어진 가상의 연인을 실제 인물로 믿고 재산을 정리해 약 1930km를 이동했으나 상대가 실존 인물이 아니었던 것으로 드러났다고 전자신문이 뉴욕포스트를 인용해 보도했다.
  • AI 보안기업 샌즈랩이 싱가포르 '테크 위크 싱가포르 2026'에서 기기 내에서 처리되는 얼굴 위·변조 탐지 기술 '페이크체크'를 시연했다고 ZDNet Korea가 보도했다.

왜 중요한가

  • AI 생성물이 보이스피싱, 정치 조작, 로맨스 스캠 등 서로 다른 영역에서 실제 금전적·정서적 피해로 이어지고 있다.
  • 이에 통신사와 연구기관은 탐지 기술 상용화에 나서고, 펜실베이니아처럼 일부 지역은 AI 콘텐츠 표시를 법으로 못 박는 등 대응이 구체화되고 있다.
  • ZDNet Korea 기고는 이런 규제가 기술 사용 자체보다 실제 피해와 위험의 크기에 비례해 설계돼야 한다고 지적한다.

나에게 무슨 상관인가

스마트폰에 보이스피싱 탐지 기능(삼성 기본 알림, LG유플러스 익시오, SK텔레콤 에이닷, KT 후후)이 이미 들어 있을 수 있으니 통화 중 의심 안내가 뜨면 확인해볼 만하다. 온라인에서 만난 상대가 영상통화나 직접 만남 없이 관계를 요구한다면 전자신문이 보도한 사례처럼 AI가 만든 가상의 상대일 가능성을 의심해볼 필요가 있다. 다만 펜실베이니아의 광고 라벨링 의무화나 스페인의 정치 딥페이크 논란은 국내 제도와 직접 연결돼 있지 않아, 지금 당장 한국 독자에게 미치는 영향은 제한적이다.

다음에 볼 것

  • 스페인은 총선을 앞두고 있어 딥페이크를 둘러싼 추가 논란이 이어질 수 있다.
  • 국내에서는 AI 이용자 보호법 제정 논의가 진행 중이어서 관련 입법 동향을 지켜볼 만하다.
  • 할리우드에서는 AI 배우 '틸리 노우드'의 장편 데뷔가 예정돼 있어 AI 배우를 둘러싼 논쟁이 이어질 전망이다.

읽은 원문

이 브리핑은 아래 12건만 근거로 썼습니다

사진 Cemrecan Yurtman / Pexels