MIT, AI 생성 이미지는 학습데이터 추적 불가능 연구

MIT CSAIL 연구팀이 확산 모델 생성 이미지와 학습 데이터 간 연결을 분석해 '귀속 붕괴(attribution decay)' 현상을 발견했다. 학습 데이터가 많아질수록 개별 이미지 하나를 제거해도 생성 결과가 달라지지 않아, 특정 출력물을 특정 학습 데이터에 책임 지우기 어려워진다는 것이다. 연구진은 재학습 없이 특정 데이터의 영향만 정확히 제거할 수 있는 '확산 앙상블' 구조를 직접 설계해 이를 검증했다. 이는 AI 생성물의 저작권 귀속, 공정 이용, 창작물 여부 등 법적 논쟁에 직접적인 영향을 준다고 연구진은 설명했다. 해당 연구는 국제학술지 Nature Communications에 게재됐다.

이 일이 어디서 왔나

생성형 AI 이미지·영상 서비스가 미디어 추천(B tv 에이닷), 콘텐츠 제작(전래동화 챌린지), 마케팅(식스도파민 VR 캠페인) 등으로 빠르게 확산되는 가운데, 이 연구는 그 근간이 되는 확산 모델이 '어떤 학습 데이터로부터 만들어졌는가'를 기술적으로 증명하기 어렵다는 점을 짚는다. 생성형 AI를 둘러싼 저작권 소송과 창작물 인정 여부 논쟁이 이어지는 상황에서 나온 학술 연구다.