2018년, 마더보드(Motherboard)의 샘 콜(Sam Cole) 기자는 인터넷에서 벌어지고 있는 새롭고 충격적인 현상을 발견했다. 딥페이크라는 이름의 레딧(Reddit) 사용자가 AI 알고리즘을 이용, 유명인의 얼굴을 진짜 포르노에 합성해 합의되지 않은 가짜 포르노 영상을 올리고 있었다. 이 기술이 폭발적으로 증가하던 시기에 샘 콜 기자는 이런 현상에 경종을 울렸다. 그로부터 1년 후, 사진 속 여성의 옷을 쉽게 ‘벗길’ 수 있는 앱 덕분에 딥페이크 포르노는 레딧을 훨씬 능가하게 되었다.

그때부터 딥페이크는 안 좋은 평가를 받았다. 그럴 만도 했다. 딥페이크는 대부분 가짜 포르노에 이용되고 있다. 한 여성 탐사보도 기자는 이런 포르노로 심한 괴롭힘을 당해 잠시 침묵해야만 했다. 최근 한 여성 시인이자 소설가는 이로 인해 두려움과 수치심을 느꼈다. 정치적 딥페이크는 불안정한 정치 상황에서 대혼란을 초래할 정도로 그럴듯한 가짜 뉴스를 만들어낼 가능성도 있다.

하지만 미디어를 조작(Manipulating)하고 합성(Synthesizing)하는 알고리즘이 점점 더 강력해짐에 따라, 이 기술을 긍정적으로 적용하는 사례도 나왔도 나왔다. 아래 주목할만한 몇 가지 사례를 제시한다. 앞으로 어떠한 일들이 일어날 수 있을지를 보여준다.

내부고발자 보호