‘이 사람은 존재하지 않는다(This Person Does Not Exist)’라는 웹사이트에 들어가면 사람 얼굴 사진을 볼 수 있다. 사진 속 얼굴은 실제 사람의 얼굴과 다를 바 없어 보이지만, 사실은 AI가 만들어낸 ‘가짜 얼굴’이다. ‘새로고침’을 누를 때마다 사이트의 인공신경망은 매번 다른 얼굴을 보여준다. 이러한 ‘가짜 얼굴’은 ‘생성적 적대 신경망(generative adversarial network, GAN)’이 만들어내는 것으로, GAN은 학습한 데이터를 토대로 실제 같은 가짜 샘플을 만들어낼 수 있게 학습한 인공지능(AI)의 일종이다.

그러나 CGI 영화와 광고에도 활용되고 있는 이러한 ‘가짜 얼굴’이 생각만큼 유일무이하지는 않은 듯하다. ‘이 사람은 (아마도) 존재한다(This Person (Probably) Exists)’라는 제목의 논문을 발표한 연구팀은 GAN이 생성한 얼굴 중 상당수가 학습 데이터로 사용된 실제 사람의 얼굴과 놀라울 만큼 닮았다는 사실을 밝혀냈다. 연구팀에 따르면, 가짜 얼굴을 토대로 GAN이 학습할 때 사용했던 실제 얼굴을 알아낼 수 있으며, 실제 얼굴 주인의 정체를 파악하는 것도 가능하다. 이번 연구는 신경망이 내부에서 벌어지는 일에 관해서 아무것도 드러내지 않는 ‘블랙박스’와 같다는 생각에 의문을 제기하는 가장 최신 연구이다.