AI 챗봇, 요청하면 무슬림 여성 사진 속 히잡 제거

가디언은 프랑스 극우 정치인이 한 무슬림 여성의 사진에서 히잡을 지운 사건을 계기로 ChatGPT, Grok, Gemini, Claude에 AI로 생성한 히잡 쓴 여성 이미지의 히잡을 제거해달라고 요청했다. OpenAI의 ChatGPT와 xAI의 Grok은 이 요청에 응해 이미지를 수정했다. 반면 Anthropic의 Claude는 자체적으로 이미지 편집·생성 기능이 없다고 답하면서도, 설령 가능하더라도 누군가의 히잡을 지우는 식으로 사진을 바꾸지는 않겠다고 밝혔다.

이 일이 어디서 왔나

이 사건은 프랑스 극우 정치인이 한 무슬림 여성의 사진에서 히잡을 지운 일을 계기로 가디언이 주요 AI 챗봇을 대상으로 직접 실험한 결과다. 이 사이트에는 AI 챗봇의 안전장치 수준을 둘러싼 보도가 이어져왔는데, EU가 미성년자 보호를 위해 AI 챗봇 이용까지 규제하는 법안을 추진하고(9월17일) 국내에서도 AI 챗봇 중독 문제를 다루는 국회토론회가 열리는 등(9월29일) 규제 논의가 활발한 가운데, 이번 사례는 종교적 상징을 다루는 이미지 생성 영역에서도 기업별 기준이 크게 다르다는 점을 실측으로 보여준다.