지난 4월, 중국의 AI 분야에 큰 발전이 있었다. 중국 인터넷 규제당국이 생성형 AI(generative AI)에 대한 규제 초안을 발표한 것이다. ‘생성형 인공지능 서비스 관리에 대한 조치(Measures for the Management of Generative Artificial Intelligence Services)’라는 이름이 붙은 이 규제 초안은 특정 기업을 언급하지는 않지만, 표현 방식을 보면 중국과 미국에서 계속해서 출시되고 있는 대형언어모델(large language model) 챗봇을 염두에 두고 있음이 분명해 보인다.

필자는 지난주에 캐나다 공영방송 CBC의 월드 뉴스 팟캐스트(‘Nothing Is Foreign’)에 출연하여, 해당 규제 초안과 중국이 생성형 AI라는 신기술에 대해 이처럼 신속한 조치를 취하는 것이 어떤 의미인지에 관해 이야기했다.

이번 규제 초안이 AI의 위험에 대한 합리적인 제한이면서 동시에 ‘기술 산업에 대한 공격적인 개입’이라는 중국 정부의 강력한 기조의 연속선상에 있다고 생각한다.

규제 초안의 많은 조항에는 서구의 AI 비판론자들이 옹호하는 원칙들이 담겨 있다. 예를 들어 ‘생성형 AI 모델 학습에 사용한 데이터는 지식재산권이나 개인정보 보호법을 침해해서는 안 된다’, ‘알고리즘은 인종, 민족, 나이, 성별 등을 이유로 사용자를 차별해서는 안 된다’, ‘AI 기업은 학습 데이터 수집 방식과 데이터 라벨링 작업에 인력을 고용한 방식 등을 투명하게 공개해야 한다’ 등이 여기에 해당된다.

이와 동시에, 이번 규제 초안에는 다른 국가들이 선호하지 않을 만한 내용도 들어 있다. 예를 들어 이 초안에 따르면, 중국 정부는 생성형 AI 도구를 사용하는 사람들에 중국의 다른 소셜 플랫폼에서와 마찬가지로 실명과 개인정보 등록을 요청한다. 그리고 AI 소프트웨어가 생성하는 콘텐츠는 ‘사회주의의 핵심 가치를 반영’해야 한다.

위의 두 가지 요구 사항 중 어느 것도 놀랍지는 않다. 중국 정부는 최근 몇 년간 기술 기업들을 강력하게 규제하면서 규정을 제대로 따르지 않았다며 플랫폼을 처벌하고, 중국에 확립된 검열 체계에 새로운 제품들을 포함시켜왔다.

이번 규제 초안에서는 중국의 그러한 규제 기조를 쉽게 찾아볼 수 있다. 규제 초안에는 개인정보, 알고리즘, 딥페이크(deepfake), 사이버 보안 등에 대해 중국에서 통과된 다른 규제에 대한 언급이 많다. 어떤 면에서 중국 정부는 이러한 규제들을 통해 기술 시대의 새로운 문제들을 처리하는 데 도움이 되는 ‘규제망’을 천천히 형성하고 있는 것처럼 느껴진다.

이처럼 새로운 기술 현상에 빠르게 대응할 수 있는 중국 정부의 능력은 양날의 칼이다. 카네기 국제평화재단(Carnegie Endowment for International Peace)의 연구원 맷 시언(Matt Sheehan)은 모든 신기술 동향에 개별적으로 대응하는 이러한 접근법의 강점은 “특정 문제에 대한 구체적인 해결책을 정확하게 만들어낼 수 있다는 것”이라고 적었다. 그는 “그러나 새로운 기술 활용 방식이나 문제가 등장할 때마다 규제당국이 매번 새로운 규제를 만들어야 한다는 점이 약점”이라고 덧붙였다. 만약 정부가 계속해서 새로운 규제를 만들어내느라 바쁘다면, AI에 대한 장기적인 비전에 대해 전략적으로 생각할 기회를 놓칠 수 있다. 최근 MIT 테크놀로지 리뷰의 멜리사(Melissa)가 설명했듯이, 중국이 택한 이러한 단편적인 접근 방식은 몇 년에 걸쳐 야심차게 인공지능법(AI Act) 제정을 위해 노력해온 유럽연합(EU)의 접근 방식과 대조된다. (최근 개정된 EU의 AI법 초안에는 생성형 AI에 대한 규제도 포함됐다.)

흥미로운 부분은 이번 규제 초안이 ‘규제’임에도 불구하고 기업들이 AI에 관한 연구를 계속하도록 암묵적으로 장려하고 있다는 점이다. 규제 위반에 책정된 벌금은 최대 10만 위안(약 1,800만 원)인데, 이는 대형 언어모델을 구축할 역량을 가진 기업의 입장에서는 매우 적은 금액이다.

물론 기업의 AI 모델이 규칙을 위반할 때마다 벌금을 내야 한다면 금액은 커질 수 있다. 그러나 책정된 벌금의 규모를 볼 때 이번 규제 초안의 의도가 기업들의 AI 투자를 막는 것은 아닌 듯하다. 홍콩 대학교의 법학과 교수 앤젤라 장(Angela Zhang)이 최근 언급했듯이 중국 정부는 여러 역할을 맡고 있다. 장은 “중국 정부를 단순한 규제당국이 아니라 동시에 AI에 대한 옹호자, 후원자, 투자자로도 봐야 한다. AI 개발을 옹호하는 부처들은 국가 후원기관 및 투자기관과 함께 엄격한 AI 규제에 맞서 균형을 잡아 줄 준비가 되어 있다”고 적었다.

규제당국이 해당 규제 초안을 확정할 때까지는 몇 개월이 걸릴 수 있으며, 그 이후로 규제가 시행되기까지도 몇 개월이 걸릴 수 있다.

해당 규제가 발효될 때쯤이면, 또 다른 새로운 AI 제품이 인기를 끌게 돼서 중국 정부가 새로운 규제를 생각해내야 하는 상황에 직면할 수도 있다. 앞으로 어떤 일이 일어날지는 아마 아무도 알고 있지 못하고 있다.