최근 필자는 AI로 제작하거나 변조한 콘텐츠를 이용자들이 식별할 수 있게 돕는 프로젝트에 관한 짧은 기사를 썼다. 이 프로젝트는 여러 기술 및 미디어 대기업들의 지원을 받아 진행되고 있다.

AI가 만든 텍스트, 이미지, 동영상이 큰 인기를 끌면서 입법자와 일반 인터넷 이용자 모두가 데이터 투명성 강화를 촉구하고 있다. AI로 만들어진 콘텐츠에 단순히 라벨을 덧붙이는 방법은 매우 합리적으로 보이긴 하지만, 사실 실현하기 쉽지 않다. 또한 AI를 이용해 이러한 콘텐츠를 감지하거나 워터마크를 삽입하는 것처럼 기존에 사용되고 있는 방법에는 몇 가지 심각한 함정이 있다.

MIT 테크놀로지 리뷰의 멜리사 헤이킬레(Melissa Heikkilä)가 쓴 기사처럼 현재 대부분의 기술 솔루션은 ‘최신 AI 언어 모델에 맞서기 역부족’이다. 그럼에도 AI 생성 콘텐츠에 라벨을 달거나 이를 감지하는 기술을 개발하기 위한 경쟁은 계속되고 있다.

이러한 연유로 C2PA라는 프로토콜이 등장했다. 이 프로토콜을 만든 ‘콘텐츠 출처 및 진위 확인을 위한 연합(Coalition for Content Provenance and Authenticity)’의 이름을 따 2021년부터 시작된 C2PA는 콘텐츠에 명확한 출처 정보를 라벨로 지정해 주는 새로운 개방형 기술 표준이다.