The year deepfakes went mainstream

딥페이크, 주류가 되다

인공지능 합성 미디어(AI-Synthetic Media)는 작년부터 온라인의 어두운 이면을 벗어나기 시작했다.

2018년, 마더보드(Motherboard)의 샘 콜(Sam Cole) 기자는 인터넷에서 벌어지고 있는 새롭고 충격적인 현상을 새로 발견했다. 딥페이크라는 이름의 레딧(Reddit) 사용자가 AI 알고리즘을 이용, 유명인의 얼굴을 진짜 포르노에 합성해 합의되지 않은 가짜 포르노 영상을 올리고 있었다. 이 기술이 폭발적으로 증가하던 시기에 샘 콜 기자는 이런 현상에 경종을 울렸다. 그로부터 1년 후, 사진 속 여성의 옷을 쉽게 ‘벗길’ 수 있는 앱 덕분에 딥페이크 포르노는 레딧을 훨씬 능가하게 되었다.

그때부터 딥페이크는 안 좋은 평가를 받았다. 그럴 만도 했다. 딥페이크는 대부분 가짜 포르노에 이용되고 있다. 한 여성 탐사보도 기자는 이런 포르노로 심한 괴롭힘을 당해 잠시 침묵해야만 했다. 최근 한 여성 시인이자 소설가는 이로 인해 두려움과 수치심을 느꼈다. 정치적 딥페이크는 불안정한 정치 상황에서 대혼란을 초래할 정도로 그럴듯한 가짜 뉴스를 만들어낼 가능성도 있다.

하지만 미디어를 조작(Manipulating)하고 합성(Synthesizing)하는 알고리즘이 점점 더 강력해짐에 따라, 이 기술을 긍정적으로 적용하는 사례도 나왔도 나왔다. 아래 주목할만한 몇 가지 사례를 제시한다. 앞으로 어떠한 일들이 일어날 수 있을지를 보여준다.

내부고발자 보호

테우스 미디어

지난 6월, 러시아 성소수자(LGBTQ)에 대한 박해를 다룬 탐사보도 영화 ‘웰컴 투 체첸(Welcome to Chechyna)’은 출연진의 신원 보호를 위해 딥페이크를 사용한 최초의 다큐멘터리가 되었다. 이 영화의 주인공은 박해에 저항했고, 고문이나 살해를 피하기 위해 숨어 살았다. 출연진의 신원을 보호할 여러 방법을 모색한 후, 데이비드 프랑스(David France) 감독은 딥페이크라는 ‘가면’을 씌우기로 결정했다. 감독은 전세계 LGBTQ 운동가들에게 얼굴을 빌려달라고 부탁해서 영화 속 배우 얼굴에 합성했다. 이 기술 덕분에 프랑스 감독은 배우들의 얼굴 표정과 고통, 두려움, 인간다움을 온전히 지킬 수 있었다. 영화는 총 23명의 신원 노출을 방지하는 동시에 내부고발자 보호의 새로운 방식을 개척했다.

수정주의 역사

지난 7월, 두 명의 MIT 연구원 프란체스카 파네타(Francesca Panetta)와 할시 버건드(Halsey Burgund)는 1969년 아폴로 달 착륙의 대체 역사(Alternative History)를 만드는 프로젝트를 발표했다. ‘달의 재난(In Event of Moon Disaster)’이라는 이 다큐멘터리는 만약 아폴로 달 착륙이라는 중대한 사건이 계획대로 진행되지 않았을 경우를 대비해 리처드 닉슨(Richard Nixon) 대통령이 준비해둔 연설을 사용했다. 파네타와 버건드는 딥페이크 음성과 영상을 위해 두 곳의 업체와 제휴를 맺고, ‘기본’ 연기를 수행할 배우를 고용했다. 그리고 배우의 목소리와 표정을 두 종류의 소프트웨어에 돌리고 이어 붙여 가짜 닉슨을 탄생시켰다.

이 프로젝트는 어떻게 딥페이크가 강력한 대체 역사를 만들 수 있는지 보여주는 동시에, 어떻게 실제 역사에 생명을 불어넣을 수 있는지까지 암시한다. 지난 2월, 타임지는 마틴 루터 킹 주니어의 워싱턴 행진을 가상 현실로 재현하여, 구독자들을 마치 현장에 있는 듯한 느낌이 들게 했다. 이 프로젝트는 딥페이크 기술을 사용하지 않았다. 그러나 중국의 IT 대기업 텐센트는 나중에 AI 계획에 대한 백서를 인용하여, 딥페이크가 향후 유사한 목적으로 사용될 수 있다고 주장했다.

밈(Memes)

늦은 여름, 밈을 만들고 즐기는 사람들은 딥페이크를 쉽게 만들 수 있는 기술을 손에 넣었고, 그 결과물을 디지털 세상에 풀어놓았다. 특히 ‘바보같이’ (위 이미지 참고)라는 유명 밈(Meme)은 여기에 사람들이 자기 사진을 집어넣는 방법이 알려지면서 급속도로 퍼졌다. 이 유행을 불러일으킨 한 알고리즘은 2019년 발표된 한 논문에서 비롯됐다. 사용자는 이 알고리즘을 이용하여 어떤 사람의 얼굴 사진을 다른 사람의 영상 위에 덮어써 본래 사진 속 얼굴이 영상 속 사람처럼 움직이게 만들 수 있다. 아무리 생각해도 결과물의 질이 좋지는 않지만, 꽤 재미있긴 하다. 그리 놀라운 현상은 아니다. 놀이와 패러디는 딥페이크 및 다른 미디어 조작 도구를 대중화시키는 요인이 되었다. 그래서 어떤 전문가들은 풍자의 수준을 넘어 악용되지 않도록 보호 장치의 필요성을 강조한다.

스포츠 광고

스케줄이 바쁜 유명 스포츠 스타들이 한 곳에 모이기는 어렵다. 락다운 상태에서는 더욱 불가능하다. 그래서 격리되어 있는 사람이 출연하는 광고를 LA에서 촬영하는 유일한 방법은 기술을 활용하는 것이다. 지난해 8월 스트리밍 사이트 훌루는 NBA 선수 데미안 릴라드, WNBA 선수 스카일라 디긴스 스미스, 캐나다 하키 선수 시드니 크로스비가 출연하는 스포츠 채널 서비스 재개를 홍보하는 광고를 내보냈다. 스타 선수들이 빵은 그만 만들고 본업인 스포츠로 돌아가서, 농구 골대를 흔들고 하키 스틱을 휘두르는 모습을 볼 수 있다. 스타 선수들의 얼굴은 딥페이크 기술을 사용하여 대역 배우에 겹쳐진다. 이 알고리즘은 줌으로 캡처한 선수들의 영상을 바탕으로 훈련되었다. 컴퓨터를 이용한 눈속임은 수년 동안 이런 식으로 이용되어 왔지만, 딥페이크는 이를 그 어느 때 보다 더 쉽고 저렴한 비용으로 가능하게 했다. 그리고 모두가 격리된 지난해, 이 기술의 사용은 크게 늘었다. 훌루 뿐만이 아니었다. ESPN 등 다른 광고주들도 딥페이크를 사용했다.

정치 캠페인

미 대선을 앞두고 있던 9월, 초당파 시민단체 리프리젠트어스(RepresentUs)는 두 개의 딥페이크 광고를 공개했다. 가짜 블라디미르 푸틴 러시아 대통령과 가짜 김정은 북한 노동당 위원장이 똑같은 메시지를 전하는 광고였다. 미국의 민주주의는 자멸할 것이므로 미국 선거에 개입할 필요가 없다는 내용이었다. 이는 선거운동 중 딥페이크를 처음 이용한 사례는 아니었다. 지난해 2월 인도 정치인 마노즈 티와리(Manoj Tiwari)는 선거운동 영상에서 지역 유권자들이 쓰는 언어 중 하나인 힌디어 방언 하리아나어(Haryanvi)를 하는 것처럼 보이려고 딥페이크를 사용했다. 그러나 리프리젠트어스는 정치적 딥페이크를 둘러싼 일반적인 논의를 뒤엎었다. 전문가들이 딥페이크가 혼란을 초래하고 선거를 방해할 가능성을 우려하는 가운데, 리프리젠트어스는 정반대의 일을 도모했다. 투표권을 보호하고 투표율을 높이는 활동에 딥페이크를 활용한 것이다.

TV 쇼

딥페이크를 이용한 광고와 일회성 이벤트에 익숙함을 느끼기 시작했는가? 지난 10월, 트레이 파커(Trey Parker)와 매트 스톤(Matt Stone)은 최초의 딥페이크 TV 쇼 ‘새시 저스티스(Sassy Justice)’를 첫 방송했다. 이 주간 풍자 쇼는 트럼프의 얼굴을 한 지역 뉴스 기자 새시 저스티스라는 인물을 중심으로 전개된다. 새시 기자는 딥페이크로 얼굴이 아이 몸에 합성된 재러드 쿠슈너(Jared Kushner)와 앨 고어 등을 인터뷰한다. 새시 저스티스 방영을 계기로 딥페이크는 단순한 마케팅 전략이나 악의적 속임수를 뛰어넘어 주류 문화를 강타했다. 딥페이크는 등장인물을 만드는 데 사용되는 기술일 뿐만 아니라 풍자의 기술이기도 하다. 새시 저스티스 첫 회에서, 새시 ‘트럼프’ 저스티스는 소비자 대변인을 연기하며 ‘딥페이크 뉴스’ 뒤에 숨겨진 진실을 파헤친다.

미리보기 3회1회

MIT Technology Review 구독을 시작하시면 모든 기사를 제한 없이 이용할 수 있습니다.