2023년 제니퍼(37세·가명)가 비영리단체에서 연구 업무를 맡게 됐을 때의 일이다. 그녀는 새로 찍은 프로필 사진을 얼굴 인식 프로그램에 입력해 봤다. 혹시 10여 년 전 20대 초반 시절 출연했던 포르노 영상이 검색되는지 확인하고 싶었다.

결과는 예상 밖이었다. 제니퍼가 출연했던 포르노 영상뿐 아니라 지금껏 한 번도 본 적 없는 영상까지 검색된 것이다. 누군가 그녀가 과거 출연한 포르노 영상에 다른 사람의 얼굴을 합성해 만든 딥페이크 영상이었다.

“처음에는 그냥 다른 사람인 줄 알았어요.”

제니퍼는 곧 문제의 영상 배경이 2013년경 자신이 촬영했던 세트장과 지나치게 비슷하다는 점을 이상하게 여겼고, 누군가 자신의 몸을 이용해 딥페이크 영상을 만들었다는 사실을 깨달았다.

더 소름 끼친 것은 딥페이크였음에도 영상 인식 기술이 영상 속에 남아 있던 제니퍼의 광대뼈와 눈썹, 턱선 등의 특징을 통해 그녀를 정확히 식별해냈다는 점이다.

“마치 다른 사람의 얼굴을 가면처럼 쓰고 있는 것 같았는데도 저를 찾아냈어요.”

딥페이크는 AI 기술을 이용해 사람의 얼굴과 목소리, 표정 등을 실제처럼 합성하거나 조작한 이미지와 영상, 음성을 말한다.

지금까지 ‘비동의적 사적 영상(Nonconsensual Intimate Imagery·NCII)’에 해당하는 성적 딥페이크 논의는 주로 실제로 하지 않은 행동을 하는 모습이나 타인의 몸에 자신의 얼굴이 합성된 사례에 집중돼 왔다. 이러한 피해자는 대부분 유명 연예인이나 인플루언서였다.