중국에서 ‘텍스트를 입력하면 이미지를 생성해주는(text-to-image)’ 새로운 인공지능(AI)이 등장했다. 기술 기업 바이두(Baidu)가 개발한 AI ‘ERNIE-ViLG’가 바로 그것이다. ERNIE-ViLG를 이용하면 중국만의 고유한 문화적 특성을 보여주는 이미지를 생성할 수 있다. 또 DALL-E 2 같은 다른 서구의 이미지 생성 AI보다 더 뛰어난 애니메이션 그림도 그릴 수도 있다.

그러나 ERNIE-ViLG는 중국 2대 도시 광장이자 상징적인 정치적 중심지인 ‘천안문 광장’을 비롯해 많은 이미지를 생성해 보여주길 거부한다.

8월 말 ERNIE-ViLG의 데모가 공개되자마자 이용자들은 곧바로 정치인의 이름이나 정치적 맥락에서 논란의 소지가 있는 단어 등 특정 단어가 ‘민감한’ 표현으로 분류되어 그것의 이미지가 생성되지 않도록 막혀 있다는 것을 알아냈다.

중국의 정교한 온라인 검열 시스템이 AI의 최신 트렌드라고 할 수 있는 이미지 생성 AI로도 감시의 손길을 뻗친 것이다.

물론 이와 유사한 이미지 생성 AI에서 이용자가 특정 유형의 콘텐츠를 생성할 수 없도록 제한하는 게 드문 일이 아니다. DALL-E 2는 성적인 콘텐츠나 공인의 얼굴, 의학적 치료와 관련한 이미지 생성을 금지한다. 그러나 ERNIE-ViLG의 사례는 ‘콘텐츠 관리(contents moderation)’와 정치적 검열 사이의 경계가 정확히 어디에 위치해야 하는지에 대한 의문을 분명히 보여준다.