Deepfake porn is ruining women’s lives. Now the law may finally ban it.

딥페이크 포르노로 고통받는 여성들

조작된 디지털 이미지를 이용한 성폭력은 오랜 시간 여성들을 괴롭혀 왔다. 딥페이크의 등장에 비로소 정치인들이 문제 해결에 관심을 보이기 시작했다.

헬렌 모트(Helen Mort)는 방금 들은 말을 믿을 수 없었다. 술에 취한 모습의 자신의 나체 사진이 포르노 사이트에 올라와 있다고 지인이 알려주었다. 하지만 그는 그런 사진을 찍은 적도, 공유한 적도 없다. 무언가 오류가 있었나? 마침내 그는 용기를 짜내어 사이트를 찾아보았고, 놀라움과 모욕감을 느꼈다.

영국 셰필드에 사는 시인이자 방송인인 모트는 페이크 포르노의 또 하나의 희생자가 된 것이다. 가장 놀라운 점은 문제의 이미지가 자신의 비공개 소셜미디어 계정들에 있던 2017-2019년 사이 사진을 바탕으로 만들어졌다는 점이다. 그 중에는 이미 삭제한 페이스북 계정도 포함되어 있었다.

범인은 그녀가 휴가 때 혹은 임신 중 찍은 사진, 10대 시절 사진 등 평범한 사진을 인터넷에 올린 후 사람들에게 그녀의 얼굴을 다른 포르노 이미지에 합성해 달라고 요청했다. 많은 사람이 참여했고, 결과물 중에는 조잡하게 포토샵된 것도 있었지만 놀랄만큼 진짜처럼 보이는 것도 있었다. 도대체 어떻게 된 일인지 알아보다 그녀는 ‘딥페이크’(deepfake)라는 새로운 용어를 알게 되었다. 딥페이크는 인공지능(AI)에 의해 생성되고 조작된 이미지를 말한다.

Helen Mort
COURTESY PHOTO

그는 “나는 마치 혼자만의 공간에 갇힌 듯 무력감을 느꼈다”라며 “단지 여성이라는 이유로 불특정 다수의 대중에게 처벌받은 것이나 다름없다. 마치 ‘우리는 언제든 너에게 이렇게 할 수 있어’라는 말을 듣는 듯 했다”라고 말했다.

그는 문제의 근원을 찾아나섰다. 경찰에 신고했지만, 그들은 할 수 있는 것이 없다고 했다. 인터넷을 아예 끊을까 했지만, 그녀는 인터넷이 꼭 필요한 일을 하고 있기에 그럴 수도 없었다.

누가 이런 짓을 했는지도 알 수 없었다. 가까운 사이라고 생각했던 사람이 이런 일을 했다는 생각에 끔찍함을 느꼈다. 그는 모든 사람을 의심하기 시작했다. 하지만 가장 고통스러웠던 점은 그가 전 남편을 의심하기 시작했다는 것이었다. 그들은 친구로 남아 있었다. 하지만 범인은 전 남편의 이름을 인터넷 닉네임으로 쓰고 있었다. 그는 “전 남편은 분명히 범인이 아니다. 하지만 나는 무척 슬펐다”라며 “그런 의심을 한다는 사실 자체가 자신의 현실 전체를 의심하기 시작한다는 징조”라고 말했다.

딥페이크는 정치적 위협을 일으키는데 악용될 수 있다는 점에서 많은 우려의 시선을 받고 있지만, 실제로는 여성을 겨냥한 성적 공격에 쓰이는 경우가 대부분이다. 센서티AI(Sensity AI)에 따르면, 딥페이크 영상의 90-95%가 동의를 받지 않은 포르노 영상이다. 다시 그 중 90%는 동의를 받지 않은 여성 포르노이다. (이 회사는 2018년 12월부터 온라인 딥페이크 영상의 실태를 추적 조사하고 있다.) 기술 오남용에 대한 교육 사업을 하는 비영리단체 엔드탭(EndTAB)의 창립자 애덤 닷지(Adam Dodge)는 “이 문제의 본질은 여성에 대한 폭력이다”라고 말했다.

이 같은 딥페이크 공격으로 인한 피해는 실제로 찍은 은밀한 사진을 동의 없이 인터넷에 뿌리는 ‘리벤지 포르노’(revenge porn)과 다를 바가 없다. 어떤 여성은 이름을 바꿔야 했다. 인터넷에서 자신의 흔적을 완전히 지워버려야 했던 경우도 있다. 그들은 끔찍한 트라우마를 다시 겪을 수도 있다는 공포에 시달린다. 자신의 딥페이크 이미지가 언제든 다시 인터넷에 등장할 수 있고, 그러면 삶은 또 한 번 망가지기 때문이다.

다행히 비동의 딥페이크 포르노를 금지하기 위한 미국과 영국에서의 활동들이 힘을 얻고 있다. 딥페이크에 대한 관심이 커지면서 지금까지 별로 관심의 대상이 되지 못했던 다른 이미지 기반 성폭력에 대한 경각심도 함께 높아지고 있다. 많은 활동가들이 이 문제에 대한 법률적 허점을 메우기 위한 활동을 오래 동안 펼쳐왔는데, 딥페이크로 인해 의원들도 비로소 이 문제에 관심을 갖기 시작했다.

“우리는 큰 파도를 기다리고 있다”

딥페이크는 포르노와 함께 시작되었다. 2017년 12월 미국 온라인 매체 마더보드(Motherboard)의 사만사 콜 (Samantha Cole) 기자는 레딧에서 ‘deepfake’라는 아이디의 사용자가 AI 연구자들이 개발해 오픈소스로 공개한 기술을 이용해 여성 연예인의 얼굴을 포르노 영상에 합성해 공유하는 것을 발견했다. 콜은 다른 여성도 희생자가 될 수 있다는 경고를 담은 기사를 썼다.

이 문제는 제법 화제가 되었는데, 주로 딥페이크라는 새로운 기술이 쓰였다는 데에 초점이 맞춰졌다. 사실 유명인의 얼굴을 합성한 가짜 포르노는 인터넷에 등장한 지 오래다. 하지만 가정 폭력 피해자 문제 해결을 위해 활동하는 사람들은 이 기술의 위험성을 곧바로 인식했다. 닷지는 “딥페이크는 희생자에게 권력을 휘두르고 그들을 통제하려는 사람들에게 완벽한 도구”라고 말했다.

딥페이크로 여성 누드 사진을 만드는 것은 이제 너무 쉬운 일이 되었다. 이런 목적을 위한 앱들이 새로 나왔다가 금지되는 숨바꼭질이 계속 이어지고 있다. 2019년 딥누드(DeepNude)가 있었고, 2020년에는 텔레그램 딥페이크 봇이 있었다. 여성의 사진에서 옷을 벗기는 소프트웨어를 만들기 위한 기본 코드는 오픈소스 소프트웨어 공유 공간에 여전히 남아 있다.

그 결과, 공격의 범위는 더 확대되었다. 이제는 연예인이나 인스타그램 셀럽뿐 아니라 일반 여성도 대상이 되었다고 지오지오 파트리니(Giorgio Patrini) 센서티AI CEO는 말한다. 센서티AI 조사에 따르면, 텔레그램 딥페이크 봇 피해자는 10만 명에 이르고, 이중에는 미성년자도 포함되어 있다.

활동가들은 ‘얼굴 맞바꾸기’ 같은 무해해 보이는 딥페이크 앱에 대해서도 우려한다. 영국 비영리단체 리벤지포르노헬프라인 (Revenge Porn Helpline)에서 일하는 소피 모티머(Sophie Mortimer)는 “’내 얼굴을 영화 장면 속 스타 얼굴과 바꿀 수 있다’는 것에서 ‘다른 사람의 얼굴을 포르노 영상에 넣을 수 있다’는 생각으로 발전하는 것은 어려운 일이 아니다”라고 말한다.

팬데믹 상황에서 이런 추세는 더 심각해졌다. 모티머는 사회적 격리가 시작된 이후 접수되는 상담 건수가 2배 가까이 늘었다고 말했다. 본래 학대 문제가 있던 관계는 더 악화되었고, 사람들이 점점 고립되고 온라인에서 많은 시간을 보냄에 따라 디지털 학대도 늘어났다.

아직은 포토샵을 사용한 리벤지 포르노 사례를 주로 접하지만, 딥페이크 리벤지 포르노의 본격적 도래는 시간 문제일 것으로 그는 예상한다. 그는 “(사회적 격리 등으로) 사람들이 이런 기술을 배울 시간 여유가 늘었다”며 “지금 상황은 마치 호흡을 가다듬고 곧 다가올 큰 파도를 기다리는 것과 같다”고 말했다.

대부분 사람은 딥페이크가 무엇인지 모른다

동의하지 않은 딥페이크 포르노로 피해를 입었을 때 취할 수 있는 법률적 조치는 그리 많지 않다. 미국 46개 주에 리벤지 포르노를 금지하는 법이 있지만, 가짜 혹은 딥페이크 미디어까지 금지하는 곳은 버지니아주와 캘리포니아주 뿐이다. 영국은 리벤지 포르노를 금지하고 있지만, 가짜로 합성된 것은 다루지 않는다. 이 주제를 연구하는 법학자 카롤리나 마니아 (Karolina Mania)는 “이 외에는 국가 차원에서 비동의 가짜 포르노를 금지하는 곳은 없다”라고 말한다.

이 문제를 다룰 수 있는 민사 혹은 형사 법률은 거의 없고, 그나마 몇 안 되는 특정한 경우에만 적용 가능하다. 만약 저작권이 있는 사진에서 피해자의 얼굴을 가져왔다면 지적재산권에 대한 법률을 적용할 수 있다. 가해자가 피해자에게 해를 끼치려 했다는 사실을 입증할 수 있다면 괴롭힘 방지법을 적용할 수 있다. 하지만 이런 증거를 모으는 것은 거의 불가능하기에, 대부분 경우 법률적 구제 방법은 찾을 수 없는 경우가 대부분이라고 마니아는 설명한다.

이것은 모트에게도 마찬가지였다. 가해자는 직접 포르노 이미지를 만들지도 않았고, 모트의 실명을 거론하지도 않았다. 영국의 법률을 조심스럽게 피해간 것이다. 딥페이크 이미지들을 게시하는 행위도 그녀가 알게 되기 1년 전 이미 중단되었다. 그는 “이것이 나를 모욕하기 위해 의도적으로 행한 일이라고 할만한 것들은 모두 피해갔다”고 말했다.

이러한 학대 행위를 처벌할 수 없게 만드는 법적 허점이 생긴 이유는 수없이 많다. 우선 딥페이크는 아직 널리 알려진 기술이 아니다. 닷지는 판사, 심리 상담가, 경찰, 교사 등 비동의 포르노 희생자들을 접하거나 지원할 가능성이 있는 사람들을 위한 훈련 과정을 정기적으로 운영한다. 그는 “수강자가 누구이건 간에, 그들 중 80%는 딥페이크가 무엇인지 전혀 모른다고 말할 수 있다”고 말했다.

노엘 마틴(Noelle Martin)은 18살 때 가짜 포르노물에 피해를 당한 후 이 분야 활동가가 되었는데, 이후 다시 정교한 딥페이크 포르노 공격의 대상이 되었다. 가짜 포르노 혹은 딥페이크 포르노는 태생적으로 잘못된 것이라는 사실은 희생자들에 대한 비난을 잠재우는데 별로 도움이 되지 않는다.

이는 정치인들이 이 이슈의 심각성을 인식하기 어렵게 만드는 이유 중 하나다. 이 분야의 오랜 활동가로서 캘리포니아에서 미국 주 중 두번째로 리벤지 포르노 금지법이 통과되는데 기여한 샬롯 로즈(Charlotte Laws)는 희생자들의 이야기가 정치적 움직임을 끌어내는 원동력이라고 말한다. 리벤지 포르노가 별 것 아닌 이슈로 치부될 때면, 그는 일상과 경력에 실제적 피해를 입은 희생자들의 사례들을 정리한 ‘전화번호부 두께의’ 파일을 보여주곤 한다. 희생자 중에는 그의 딸도 포함되어 있다. 북부 캘리포니아에 사는 또다른 10대 소녀 오드리 포트(Audrie Pott)가 자신의 나체 사진이 동의 없이 온라인에 게시된 일로 극단적 선택을 하는 일이 벌어지고 나서야, 캘리포니아의원들은 움직이기 시작했다. 이후 미국 전역의 주에서 비슷한 법이 잇달아 제정되었다. 로즈는 “이러한 이야기들이 알려질 필요가 있다. 사람들의 마음을 건드리고, 행동하게끔 하는 것이 바로 이런 이야기이기 때문이다”라고 말했다.

이 기술을 규제하기 어려운 또 다른 이유로는 엔터테인먼트, 풍자, 내부고발자 보호 등 여러 정당한 목적으로도 딥페이크가 활용되기 때문이다. 미국 의회에 발의된 딥페이크 관련 법안은 이미 지나치게 광범위하다며 적잖은 반발을 사고 있다.

“스스로에 대한 통제를 되찾는 것”

하지만 좋은 소식이 있다. 이런 추세가 바뀌고 있다는 점이다. 영국에서 법률을 검토하고 필요한 개혁을 권고하는 영국 법률위원회 (The UK Law Commission)이 현재 온라인 학대 행위에 대한 법률들을 점검하고 있다. 위원회는 조만간 권고안 초안을 공개해 의견을 수렴할 예정이다. 활동가들은 이번에 모든 종류의 성적인 합성 이미지와 영상도 리벤지 포르노 금지 대상에 포함되기를 기대하고 있다. 모티머는 “관련 문제들이 전체적으로 다뤄진 것 같다”며 “상황을 조심스럽게 낙관한다”고 말했다. 그는 이 문제와 관련해 위원회에 자문하고 희생자들의 이야기를 익명으로 전달했다.

영국이 세계 최초로 딥페이크 포르노 금지 국가가 되면, 미국에서도 비슷한 조치가 이어질 가능성이 크다. 미국과 영국은 유사한 법 체계를 갖고 있어 종종 서로 영향을 주고받는다고 마니아는 설명했다. 미국이 행동을 취하면 유럽연합도 동참할 것으로 보인다.

물론, 여전히 장벽도 있다. 미국에는 영국과 달리 수정헌법 1조가 있다. 로욜라메리마운트대학 (Loyola Marymount University) 법학과 레베카 델피노 (Rebecca Delfino) 교수는 연방 차원 리벤지 포르노 금지법 통과의 가장 큰 장애물은 표현의 자유 침해 우려라고 설명한다. 샬럿 로즈도 비슷한 의견이다. 그는 지금까지 세 차례에 걸쳐 의회 의원들과 함께 리벤지 포르노 금지법 통과를 시도했지만, 수정헌법 1조 위반 문제로 번번이 좌절되었다.

하지만 다른 이유로 딥페이크 관련 법률이 제정될 수도 있다. 이 기술이 선거 과정을 위협할 가능성에 대해 의원들이 크게 신경을 쓰기 때문이다. 2019년 이베트 클라크 (Yvette Clarke) 하원의원은 이런 점을 염두에 두고 딥페이크책임법 (Deepfake Accountability Act)를 발의했다. 그는 선거 방해에 대한 처벌과 비동의 포르노 같은 개인적 피해에 대한 구제를 모두 법안에 집어넣었다. 당시 이 법안은 통과되지 못했지만, 그녀는 법안을 수정해 수 주 안에 다시 발의할 예정이다. 그는 “팬데믹 기간 중 신기술 도입과 소셜 미디어 사용이 늘어나면서 이제 딥페이크에 대한 제대로 된 법률을 제정할 때가 무르익었다”고 말했다.

카밀라 해리스 부통령이 리벤지 포르노에 대한 연방 차원의 금지법 제정에 대한 오랜 지지자라는 점도 지원을 끌어내는데 유리하게 작용할 전망이다. 클라크는 “새롭게 구성된 의회의 상하원 모두에 이 것이 우리 삶을 어떻게 위협하고 여성을 학대하는데 어떻게 악용되는지 이해하는 의원들이 있다”고 말했다.

모트는 최근의 이러한 진전을 보며 지금까지의 노력이 헛된 것이 아니었음을 느끼고 있다. 그는 현재 지역구 의원과 논의하며 자신의 경험을 나누고 해야 할 일들을 도출하는 작업을 돕고 있다. 그는 “이 운동의 한 부분이 되었다고 느낀다. 이것은 나에게 무척 소중하다”라고 말한다.

미리보기 3회1회

MIT Technology Review 구독을 시작하시면 모든 기사를 제한 없이 이용할 수 있습니다.