‘아마존 직원’ 사칭한 딥페이크 트위터 계정

문제가 된 딥페이크 계정들은 악랄한 기업 전략에 의한 것이 아니라 단순한 패러디 목적의 것으로 보인다. 그렇지만 이들은 앞으로 일어날 수 있는 일을 미리 보여주는 것이기도 하다.

뉴스: 아마존 최초의 노동조합 결성을 위한 역사적인 투표를 앞두고 아마존 직원을 사칭하는 트위터 계정이 등장하기 시작했다. 프로필에 딥페이크 사진을 사용한 이 계정들은 꽤 흥미롭고 과장된 방식으로 아마존의 작업 환경을 두둔하는 글을 올렸다. 이들이 진짜로 보이지는 않았지만, 그래도 혼란이 일어날 수밖에 없었다. 이런 계정의 배후에 정말 아마존이 있는 것일까? 노조 결성을 방해하려고 지독한 소셜미디어 전략을 새로 실행한 것일까? 그 답은 ‘거의 확실히 그렇지 않다’이다. 그렇지만 이 같은 상황에 딥페이크 사진이 사용되었다는 점은 전반적인 차원에서 더 큰 우려를 자아낸다.

지금까지의 상황: 프로필에 딥페이크 사진을 사용한 것이 낯설지 않게 느껴지는데, 여기에는 이유가 있다. 2018년 아마존은 창고 근로자의 작업 환경이 나쁘지 않다고 홍보하기 위해 매우 현실적인 캠페인을 시작했다. 우선 창고 직원 몇 명을 ‘아마존 FC 앰배서더(Amazon FC Ambassadors)’에 임명했다. 그리고 창고에 컴퓨터를 설치하고 이들이 각자 만든 트위터 계정을 사용하여 자신의 일을 얼마나 즐기는지 업무 시간에 트윗을 올릴 수 있게 한 것이다. 이 캠페인은 역효과를 불러왔고, 트위터에는 수많은 패러디 앰배서더 계정이 등장했다. 아마존은 얼마 지나지 않아 캠페인을 축소했다. 그리고 이 때 생성한 실제 계정 중 상당수가 정지되거나 폐쇄되었다고 탐사보도 사이트 벨링캣(Bellingcat)의 교육 및 연구 책임자 아크 톨러(Aric Toler)는 말한다.

최근의 상황: 그러다가 최근에 새로운 아마존 FC 앰베서더 계정이 갑자기 등장했다. 아니, 적어도 그런 것으로 보였다. 계정을 조사한 많은 이들이 일그러진 귀걸이 모양과 흐릿한 배경 등 딥페이크 사진임을 알 수 있는 명백한 증거를 지적하고 나섰다. 그러자 사람들이 혼란에 빠졌다.

아마존이 노조 결성을 방해하려고 딥페이크를 이용한 소셜미디어 전략을 실행했다는 소문이 빠르게 돌았다. 나중에 아마존은 뉴욕타임스 케런 와이즈(Karen Weise) 기자에게 사실이 아니라고 답했다. 최초 만들어진 앰베서더 계정을 추적했던 톨러는 아마존의 답변이 사실이라고 생각한다. 최초의 앰배서더 계정은 모두 아마존 이메일 주소를 사용하고, 스프링클러(Sprinklr)를 통해 글을 올렸다. 그렇지만 이번에 등장한 딥페이크 계정은 지메일을 사용하고, 트위터 웹 앱을 통해 글을 올렸다. 내용에서도 보는 사람을 웃기려는 의도라는 것이 분명하게 보인다. 이들 계정은 아마존을 조롱하려는 의도에서 탄생한 또 다른 패러디일 가능성이 높다.

문제가 되나? 특별히 이번 경우에 한정해 보면 문제가 없을 것이다. 톨러는 “물론 대체로 문제될 것이 없다”며 “상대는 아마존이다. 그들은 아무렇지도 않다”고 덧붙인다. 그렇지만 진짜 문제는 다른 데 있다. 소셜미디어 등에서 이보다 훨씬 악의적인 목적으로 딥페이크 계정이 계획적으로 사용될 수 있다는 점이 드러난 것이다. 이를 가장 악의적으로 사용하는 것은 바로 국가 행위자가 될 것이라고 톨러는 경고한다.

사실 유해한 허위정보 유포에 딥페이크 사진이 사용된 유명 사례가 이미 여럿 있었다. 2019년 12월 페이스북은 허위정보 유포 전략을 구사한다고 알려진 극우 매체 에포크 타임스(Epoch Times)와 관련된 네트워크를 해체했다. 이 네트워크는 900개 이상의 페이지와 그룹, 계정으로 구성되었으며, 그 중에는 딥페이크 사진을 프로필에 사용한 것도 있었다. 2020년 10월에는 헌터 바이든(Hunter Biden)을 둘러싼 수많은 음모 이론의 기초가 된 허위 ‘첩보’ 문서가 트럼프 대통령 측근 사이에 돌았다. 이 문서 역시 딥페이크 프로필 사진을 사용한 가짜 안보 분석가가 작성한 것이었다.

오픈소스를 기반으로 의심스러운 온라인 활동을 조사하는 톨러는 딥페이크가 사용된 얼굴 사진을 찾는 것이 고정 업무가 되었다고 말한다. 특히, 웹페이지를 새로 고칠 때마다 AI를 기반으로 새 얼굴 사진을 만들어 주는 웹사이트 ThisPersonDoesNotExist.com이 등장한 이후 이 같은 추세가 악화되었다. “무엇을 찾을 때마다 늘 체크리스트를 확인한다”는 그는 “첫 번째 질문은 ‘이 사람이 진짜인가?’이다. 5년 전에는 하지 않았던 질문”이라고 말한다.

얼마나 심각한가? 톨러는 딥페이크 사진이 아직까지는 자신의 일에 큰 영향을 미치지 않는다고 말한다. 스톡 이미지를 사용한 프로필과 마찬가지로, 어떤 프로필 사진이 딥페이크인지 아닌지 구분하는 것은 아직은 비교적 쉽다. 가장 어려운 경우는 이미지 검색 엔진에 등록되지 않은, 개인 소셜 미디어 계정에서 가져온 실제 사람의 사진이 사용된 경우이다.

톨러는 딥페이크에 대한 인식이 높아지면서 사람들이 자신이 사용하는 미디어를 더 주의 깊게 살펴보게 되었다고 말한다. 사람들이 이번에 등장한 아마존 계정이 가짜라는 것을 얼마나 빨리 알아챘는지 보면 알 수 있다.

그렇지만 인권 분야 비영리 단체 위트니스(Witness)의 프로그램 책임자 샘 그레고리(Sam Gregory)는 이것이 잘못된 안도감으로 이어져서는 안 된다고 경고한다. 딥페이크 기술은 계속해서 진화하기 때문이다. “딥페이크를 늘 구분할 수 있다는 자신감이 조금 지나친 것 같다.”

한편, 딥페이크를 지나치게 경계하다 보면 진짜 미디어를 믿지 못하게 될 수도 있다. 이는 경계를 하지 않는 것과 똑같이 심각한 결과로 이어질 수 있다. 예를 들어, 인권 침해의 증거를 믿지 못하는 일이 생길 수도 있다.

우리가 할 일은? 그레고리는 소셜미디어를 사용할 때 어떤 사진이 딥페이크인지 아닌지에 과도하게 집착하지 말라고 조언한다. 어떤 사진이 딥페이크인지 아닌지 여부는 ‘큰 문제의 작은 일부’에 불과할 때가 많다. “나름대로 이미지를 조사한다고 해서 알 수 있는 것이 아니다. 어떤 계정이 개설된 지 일주일밖에 안됐거나, 기자라고 주장하지만 직접 작성한 기사를 구글 검색에서 찾을 수 없다면, 그것이 바로 거짓 계정임을 알려주는 증거이다.”

이런 방법은 딥페이크 기술의 발전보다 훨씬 강력하다. 이는 이번 아마존 사례를 통해서도 알 수 있다. 톨러가 계정이 가짜라고 최종적으로 결론 내는 데 사용한 방법은 프로필 사진을 면밀히 조사하는 것이 아니라 계정 이메일과 트윗의 세부 정보를 확인하는 것이었다.

미리보기 3회1회

MIT Technology Review 구독을 시작하시면 모든 기사를 제한 없이 이용할 수 있습니다.