구글 딥마인드(Google DeepMind)가 AI로 생성된 이미지를 구분하는 새로운 워터마크 도구 ‘신스ID(SynthID)’를 출시했다. 

신스ID는 AI로 생성된 콘텐츠를 실제 제작된 콘텐츠와 구별하고 저작권을 보호하기 위해 만들어졌다. 출시 초반에는 구글의 이미지 생성 AI인 이매젠(Imagen)에서 사용할 수 있다. 이매젠은 구글 클라우드의 머신러닝 플랫폼 버텍스(Vertex)에서 호스팅되는 서비스다. 이제 이매젠 사용자들은 AI 이미지 생성 시 워터마크 추가 여부를 선택할 수 있다. 

지난해 엄청난 인기를 끈 생성형 AI 모델은 AI 기반 딥페이크, 비동의 포르노, 저작권 침해 문제를 확산시켰다. 이러한 문제를 해결할 수 있는 가장 대중적인 아이디어로 주목받는 워터마크는 텍스트나 이미지에 어떤 신호를 숨겨 AI 생성 여부를 구별할 수 있게 해주는 기술이다. 

지난 7월, 미국 정부는 오픈AI, 구글, 메타 등 주요 AI 회사들이 자발적으로 AI 생성 콘텐츠의 오보 및 오용을 방지하기 위한 워터마크 도구를 개발할 것을 약속했다고 밝혔다. 

그보다 이전인 5월, 구글의 연례 I/O 콘퍼런스에서 순다르 피차이(Sundar Pichai) 구글 CEO는 워터마크 등 저작권 보호 기술을 기본 탑재한 AI 모델을 개발하고 있다고 언급한 바 있다. 이후 구글 딥마인드가 미국 정부와 약속한 회사 중 최초로 워터마크 도구를 공개 출시한 것이다. 

기존에는 육안으로 볼 수 있는 오버레이를 이미지에 추가하거나 메타 데이터에 정보를 추가하는 방식으로 워터마크를 삽입하곤 했다. 그러나 구글 딥마인드의 연구 부사장 푸쉬밋 콜리(Pushmeet Kohli)는 이 경우 이미지를 자르거나 크기를 조절하고 편집할 때 워터마크가 손상될 수 있다고 지적했다. 

신스ID는 두 가지 신경망을 사용한다. 첫 번째 신경망은 원본 이미지를 가져와 거의 동일한 것처럼 보이지만 일부 픽셀을 미묘하게 수정한 새로운 이미지를 생성한다. 육안으로 식별할 수 없는 패턴을 내장하는 방식이다. 두 번째 신경망은 이미지에서 이러한 패턴을 찾아내, 워터마크가 있는지 없는지, 또는 있는 것으로 의심되는지 여부를 사용자에게 알려준다. 콜리는 신스ID가 이미지를 스크린샷으로 캡처하거나 회전과 크기 조절 등 편집을 거쳐도 워터마크를 감지할 수 있도록 설계됐다고 강조했다. 

시카고 대학교의 벤 자오(Ben Zhao) 교수는 구글 딥마인드가 이러한 종류의 워터마크 도구를 개발하는 유일한 곳은 아니라고 말한다. 그는 AI가 예술가들의 작품을 수집하는 것을 방지하는 시스템 개발에 참여하고 있다. 신스ID와 유사한 워터마크 도구들이 이미 출시되어 있고 오픈소스 이미지 생성 AI ‘스테이블 디퓨전(Stable Diffusion)’에서 이 도구들을 사용할 수 있다. 메타는 아직 공개적으로 워터마크 도구를 출시하지 않았지만 관련 연구를 수행한 바 있다. 

콜리는 구글 딥마인드의 워터마크가 아직 완벽하지는 않지만, 기존의 워터마크보다 조작에 강하다고 주장했다. 

그러나 자오 교수는 이 주장에 회의적이다. “시간이 지나도 강력하게 유지되는 워터마크는 거의 없다고 본다”라고 그는 지적했다. 텍스트의 워터마크는 출시 후 몇 달 내 무용지물이 된다는 연구 결과도 있다. 

그는 모종의 이해관계 때문에 워터마크를 쓸모없게 만들려는 악의적인 세력이 있다고 덧붙였다. 예를 들어, 존재하지 않는 범죄나 사건의 실제 사진 증거로 딥페이크 콘텐츠를 이용하는 것이다. 

자오 교수는 “이 세력은 딥페이크 이미지를 실제 사진으로 위장하거나, 실제 사진을 가짜라고 주장함으로써 많은 이익을 얻을 수 있다. 그들은 이미지를 자르거나, 압축을 통해 손실을 일으키거나, 색상을 변경하는 정도에서 멈추지 않을 것이다”라고 말했다. 

그럼에도 불구하고, 신스ID의 출시는 훌륭한 첫걸음이라고 AI 파트너십(Partnership on AI)의 AI 및 미디어 무결성 프로그램 책임자 클레어 레이보위츠(Claire Leibowicz)는 평가했다. 그녀는 이러한 노력이 어떠한 기술이 효과가 있거나 또는 없는지에 대한 업계의 정보 공유로 이어질 수 있다고 설명했다. 

레이보위츠는 “아무리 어려운 상황이라도 손을 놓고 있어서는 안 된다”라고 강조했다. 

콜리는 신스ID가 ‘실험적’인 워터마크 도구라며, 사람들이 이 도구를 어떻게 사용하는지 보면서 장단점을 파악한 다음 더 대중적으로 확대할 예정이라고 본지에 설명했다. 그는 구글 딥마인드가 신스ID의 사용처를 이매젠 외로도 확대할 것인지에 대해서는 대답을 거부했다. 또한, 구글의 자체 이미지 생성 AI 시스템에 신스ID를 추가할 계획이 있는지에 대해서도 언급하지 않았다. 

스타트업 허깅페이스(Hugging Face)의 AI 연구원인 사샤 루치오니(Sasha Luccioni)는 이러한 결정이 유용성을 제한할 수 있다고 지적했다. 구글이 이 도구의 소유권을 독점하게 되면, 구글만이 이 워터마크를 내장하고 감지할 있게 된다고 그녀는 덧붙였다. 

루치오니는 “이미지 생성 시스템 전반적으로 워터마크 구성 요소를 추가하면, 딥페이크 포르노 등으로 인한 피해가 줄어들 수 있다”라고 강조했다.