예술가들, 이제 이미지 생성 AI에 우위를 누리게 되나
예술가들 사이에서 인공지능(AI)에 대한 반발이 커지고 있다. 여전히 많은 사람들이 DALL-E 2, 미드저니(Midjourney), 스테이블 디퓨전(Stable Diffusion)처럼 텍스트를 이미지로 변환시켜주는 모델을 통해 상상력을 마음껏 발휘하는 것을 즐기고 있지만, 예술가들은 이런 새로운 상황에 염증을 느끼고 있다.
일부 예술가는 모델 훈련을 하겠다며 인터넷에서 자신의 시각적 작품을 무차별적으로 스크랩하는 기술 업계의 관행에 항의하자는 데 뜻을 모았다. 예술가들은 디비언트아트(DeviantArt)와 아트 스테이션(Art Station) 같은 유명 예술 플랫폼에서 시위를 벌이거나 아예 이런 플랫폼과 절연했다. 일부는 저작권 관련 소송을 제기하기도 했다.
벤 자오(Ben Zhao) 시카고 대학교 컴퓨터 공학과 교수에 따르면 현재 자금력이 풍부하고 영향력 있는 기술 기업과 예술가들 사이에는 사실상 완전한 ‘힘의 불균형’이 존재한다. 자오 교수는 “AI 훈련 회사는 자신이 원하는 건 무엇이나 할 수 있다”고 주장했다.
하지만 자오 교수의 연구실에서 이러한 왜곡된 힘의 역학을 바꿀 수 있는 나이트셰이드(Nightshade)라는 새로운 도구를 개발했다. 도구는 이미지의 픽셀을 미세하게 바꿔서 머신러닝 모델을 속여 이미지가 실제와 다른 것을 묘사한다고 생각하도록 만든다. 단 무엇이 바뀌었는지는 사람의 눈으로는 사실상 알 수가 없다. 예술가가 나이트셰이드를 적용한 이미지가 학습 데이터로 수집될 경우 이러한 ‘오염된 픽셀(poisoned pixels)’이 AI 모델의 데이터베이스에 들어가 모델이 오작동을 일으킨다. 예를 들어, 개가 고양이로, 모자가 토스터로, 자동차가 소로 변하는 식이다. 이런 이미지 전환은 매우 인상적이다. 현재까지 알려진 방어 방법은 없다.
오픈AI(OpenAI)와 스태빌리티 AI(Stability AI) 등 일부 기업은 예술가가 학습 세트를 거부할 수 있게 해주거나 자신의 작품이 스크랩되지 않게 해달라고 요청하면 이를 존중하겠다고 밝혔다. 하지만 현재로서는 기업이 이런 약속을 지키도록 강제할 수 있는 메커니즘은 존재하지 않는다. 그래서 자오 교수는 나이트셰이드가 바로 그런 메커니즘이 될 수 있다고 생각한다. 생성형 AI 모델을 구축하고 훈련시키는 데는 엄청난 비용이 드는 마당에 기술기업이 핵심 기술을 망가뜨릴 수 있는 데이터를 스크랩한다는 건 매우 위험한 일일 수 있기 때문이다.
나이트셰이드를 사용해 볼 생각이 있는 예술가 어텀 베벌리(Autumn Beverbly)는 자신의 작품이 공개적으로 사용 가능한 데이터 세트인 LAION-5B에 스크랩된 것을 발견한 뒤 자신의 권리가 크게 침해됐다는 느낌을 받았다.
그는 “절대 그런 스크랩에 동의하지 않았을 것”이라면서 “AI 기업들은 나로부터 아무런 동의를 받거나 내게 통보도 없이 그냥 내 작품을 무작정 가져갔다”고 주장했다.
나이트셰이드 같은 도구가 나오기 전까지는 베벌리는 그녀의 작품을 온라인에 공유하는 게 거북했다. 베벌리와 다른 예술가들은 기술기업이 ’옵트아웃(opt-out, 당사자가 자신의 데이터 수집을 허용하지 않는다고 명시해야 비로소 정보 수집이 금지되는 것)’ 메커니즘에서 벗어나 예술가의 동의를 먼저 구하는 방식으로 전환하고, 예술가의 기여에 보상해줘야 한다고 촉구하고 있다. 다만 기술기업이 이러한 요구를 들어주려면 AI 부문의 일반적인 관행에 진정으로 혁명적인 변화가 필요하지만, 그녀는 그래도 여전히 변화에 대한 희망을 품고 있다.
베벌리는 “예술가의 동의를 거쳐야만 하는 상황이 조성되기를 바란다”면서 “그렇지 않으면 시스템이 망가지게 될 것”이라고 지적했다. 그러면서 “동의를 거치는 문화가 마련되도록 만드는 게 내 목표”라고 강조했다.
하지만 예술가들이 ‘탄광의 카나리아’처럼 다가올 위험을 먼저 알려주고 있는 것일 수도 있다. 이들의 싸움은 온라인에 관심 있는 것을 게시해 본 적이 있는 모든 사람이 벌여야 하는 싸움이다. 우리의 개인 데이터, 소셜 미디어 게시물, 노래 가사, 뉴스 기사, 소설, 그리고 심지어 우리 얼굴까지 온라인에서 자유롭게 사용할 수 있는 모든 것이 우리도 모르는 사이에 AI 모델에 영원히 저장될 수 있다.
나이트셰이드 같은 도구는 ‘힘의 균형’을 다시 사람 쪽으로 기울게 만드는 첫걸음이 될 수 있다.
