벤처캐피털(VC) 회사 앤드리슨 호로위츠(Andreessen Horowitz)의 투자를 받은 인공지능(AI) 생성 콘텐츠 거래 플랫폼 시비타이(Civitai)가 유명인의 딥페이크를 제작할 수 있는 ‘맞춤형 지시 파일(custom instruction file)’을 이용자들이 구매할 수 있게 해주고 있는 것으로 드러났다. 이 가운데 일부 파일은 사이트에서 금지된 포르노 이미지를 생성하도록 특별히 설계된 것으로 분석됐다.

맞춤형 지시 파일이란 AI에게 “이렇게 만들어라”라고 구체적으로 가르쳐주는 파일이다. 일반적으로 AI 이미지·영상 생성 과정에서는 기본 모델만 쓰면 한계가 있는데, 이 파일을 추가하면 AI의 성향과 출력 결과를 바꿀 수 있다.

스탠퍼드대와 인디애나대 연구진은 시비타이 내에서 ‘바운티(bounty)’라고 불리는 이용자의 콘텐츠 제작 요청 사례를 분석했다. 그 결과, 2023년 중반부터 2024년 말까지 접수된 바운티 가운데 대부분이 애니메이션 콘텐츠 요청이었지만, 상당수는 실제 인물의 딥페이크 제작 요청이며, 특히 이 중 90%가 여성의 딥페이크 제작 요청으로 확인됐다. 이 연구 결과는 아직 동료 평가를 거치지는 않았다.

최근 일론 머스크의 AI 기업 xAI가 개발한 챗봇 ‘그록(Grok)’이 노골적 이미지를 생성해 논란이 된 사례처럼 그동안 딥페이크, 즉 진짜 사람처럼 보이게 조작한 가짜 영상·사진 문제를 둘러싼 논쟁은 주로 플랫폼의 관리 책임에 초점이 맞춰져 왔다.

딥페이크 ‘현상금 시장’ 된 시비타이…여성 대상 요청 90%