지난주 세계 최고의 팝스타 중 한 명인 테일러 스위프트의 성적으로 노골적인 이미지가 온라인에 퍼졌다. 수백만 명이 소셜 미디어 플랫폼 X(구 트위터)에서 스위프트의 동의 없이 제작된 그녀의 딥페이크 포르노를 봤다. 그러자 X는 문제 해결을 위해 곧장 스위프트에 대한 모든 검색을 차단하는 과감한 조치를 취했다.

인공지능(AI)을 이용한 이미지 합성 기술인 딥페이크는 새로운 현상이 아니라 이미 수년 전부터 존재해 왔다. 하지만 생성형 AI의 등장으로 딥페이크 포르노를 제작하고, AI가 생성한 이미지와 동영상을 이용해 사람들을 성희롱하기가 그 어느 때보다 쉬워졌다.

생성형 AI와 합성 미디어를 전문으로 연구하는 AI 전문가 헨리 아즈더(Henry Ajder)는 “생성형 AI와 관련된 모든 유형의 피해 중에서 이런 식의 합의되지 않은 딥페이크가 가장 많은 사람에게 영향을 미치며, 그 대상의 대다수는 여성”이라고 지적했다.

그래도 다행히 희망이 싹트고 있다. 새로 등장하는 도구와 더 강력한 처벌을 동반한 법적 조치는 딥페이크 공격자가 사람들의 사진을 무기화하기 어렵게 만들고, 가해자에게 책임을 묻는 데 도움을 줄 수 있기 때문이다.

다음은 합의되지 않은 딥페이크 포르노에 대응할 수 있는 세 가지 방법이다

워터마크