메타는 인공지능(AI)으로 생성한 오디오 클립에 소위 워터마크(watermark)라는 숨겨진 신호를 삽입할 수 있는 시스템을 개발했다. 이 기술은 온라인에서 AI로 생성된 콘텐츠를 감지해 내는 데 도움이 될 것으로 기대된다.

오디오씰(AudioSeal)이라는 이름의 이 도구는 1시간 분량의 팟캐스트에서 AI로 생성한 특정 부분을 정확히 짚어낼 수 있는 최초의 기술이다. 메타의 연구 과학자인 하디 엘사하르(Hady Elsahar)는 이 도구가 음성 복제 도구를 이용한 허위 정보 및 사기 문제를 해결하는 데 도움이 될 수 있다고 평가했다. 그동안 악의적인 행위자들은 생성형 AI를 이용해 조 바이든 대통령의 딥페이크 음성을 만들어내고, 사기꾼들은 딥페이크 기술을 사용해 피해자들을 협박해 왔다. 이론적으로 소셜 미디어 기업들은 워터마크를 통해 좀 더 수월하게 위험한 콘텐츠를 감지하고 제거할 수 있을 것으로 보인다.

하지만 몇 가지 중요한 단서 조건이 있다. 메타는 아직 자체 개발한 도구를 사용해 생성된 AI 생성 오디오에 워터마크를 적용할 계획이 없다고 밝혔다. 오디오 워터마크는 아직 대중화되지 않았으며, 이와 관련해 합의된 업계 표준도 존재하지 않는다. 또한 AI로 생성된 콘텐츠의 워터마크는 제거 또는 위조와 같은 변조 행위에 취약한 경향이 있다.