AI 챗봇 기업들과 입법기관은 최근 자살이나 정신증 등 급성 피해에 대응하는 안전장치 마련에 집중해왔다. OpenAI는 세션 내 감지에서 나아가 세션 간 사용자 고통 신호를 추적하는 방식을 도입했다고 밝혔으며, 여러 주에서는 동반자형 챗봇 운영사에 비인간 고지와 위기 상담 연계 절차를 의무화하는 법안을 시행 중이다. 그러나 저자들은 이러한 조치가 몇 달에서 몇 년에 걸쳐 축적되는 '누적 피해', 즉 인간관계가 점진적으로 AI 상호작용으로 대체되는 현상에는 거의 대응하지 못하고 있다고 지적한다. 초기 연구들은 정서적 지원 목적의 챗봇 이용이 일부 중(重)이용자층에 집중돼 있으며, 이들의 사교 활동 감소와 외로움 증가가 연관될 수 있다고 시사하지만, 근거는 아직 예비적이고 논쟁적인 단계다. 저자들은 담배 산업과 메타의 사례를 들어, 개별 메시지·세션 단위의 안전장치가 향후 책임 소재를 다툴 때 법적·수사적 방어 논리로 활용될 수 있다는 점을 우려한다. 담배 산업의 경우 각 주의 메디케이드 예산이 흡연 관련 비용을 흡수하고 있다는 사실이 입증되면서 비로소 법적 책임 추궁이 가능해졌지만, AI로 인한 사회적 고립이 공공 시스템에 미치는 비용을 측정할 유사한 체계는 아직 존재하지 않는다고 설명한다. 이에 저자들은 학계·시민사회의 측정 도구 개발, 공공 보건·교육 기관의 고립 비용 데이터 공유, 그리고 각 주 의회의 동반자형 챗봇 법안을 활용한 데이터 접근성 확대가 필요하다고 제안한다.
- OpenAI는 세션 간 사용자 고통 신호 추적 기능을 도입했다고 발표했다
- 현재 12개 주가 동반자형 챗봇의 비인간 고지 및 위기 상담 연계를 의무화하고 있다
- 초기 연구는 챗봇 중이용자층에서 사교 활동 감소와 외로움 증가 연관성을 시사한다
- 저자들은 담배·소셜미디어 산업의 안전장치 사례가 법적 방어 논리로 전용될 수 있다고 지적한다
- AI 사용으로 인한 사회적 고립의 공공 비용을 측정하는 체계는 아직 부재하다
큐픽스 바이오 해설
원문에 없는 배경 설명입니다 · AI 작성 · 기사의 사실관계가 아닙니다
- 챗봇
- 자연어로 사람과 대화하듯 응답하도록 설계된 소프트웨어 프로그램
- 데이터 접근권
- 연구자가 기업이 보유한 이용 기록이나 로그에 접근해 분석할 수 있는 권한
- 사회적 고립
- 타인과의 상호작용이나 유대감이 줄어들어 지지 관계가 약해지는 상태
AI 챗봇 이용이 늘면서 이것이 인간관계나 정신건강에 미치는 영향을 장기적으로 추적한 연구는 아직 많지 않다는 지적이 꾸준히 제기된다. 이런 영향을 검증하려면 기업이 보유한 이용자 행동 데이터가 필요하지만, 개인정보 보호와 영업 비밀 등의 이유로 외부 연구자에게 공개되는 경우는 제한적이다. 이 때문에 학계와 정책 논의에서는 플랫폼 데이터에 대한 독립적 연구 접근을 어떻게 제도화할지가 반복적으로 다뤄지는 주제다.
Why it matters신기술이 사회적 관계에 미치는 장기적 영향을 검증하려면 기업 데이터에 대한 연구 접근 체계가 선행돼야 한다는 점에서, 데이터 거버넌스 논의는 기술 규제 전반의 선결 과제로 다뤄진다.
원문을 확인하세요
큐픽스 바이오는 원문을 저장하거나 전재하지 않습니다. 위 글은 공개된 보도를 요약한 것이며, 수치·일정·인용은 요약 과정에서 빠지거나 달라질 수 있습니다. 판단이 필요한 사안은 반드시 원문에서 확인하세요.
STAT News 원문 보기원문 보도의 저작권은 STAT News에 있습니다.