정부가 생성형 AI를 이용하여 대화를 조작하고 온라인 콘텐츠를 자동으로 검열하고 있다는 사실은 그다지 놀라운 소식이 아닐 수 있다. 하지만 이제 우리는 이러한 통제가 언제, 어디서, 어떻게 이뤄지고 있는지 더욱 명확히 알게 되었다. 최근 발표된 보고서에 따르면 지난 1년 동안 파키스탄, 나이지리아, 미국 등 16개국의 정치적 행위자들은 생성형 AI를 사용해 인터넷에 대한 통제를 강화했다.

지난 10월 초 인권 옹호 단체인 프리덤하우스(Freedom House)는 전 세계 인터넷 자유의 현 실태에 관한 연례 보고서를 새로 발표했다. 이 보고서는 온라인 공간에서 표현의 자유가 어떻게 변화하고 있는지 파악하려는 사람들에게 가장 중요한 추적 지표 중 하나다.

필자가 과거 기사에서 다룬 것처럼 프리덤하우스의 최근 보고서에 따르면 생성형 AI는 이미 지정학의 판도를 뒤엎고 있다. 우려스러운 부분은 이뿐만이 아니다. 전 세계의 인터넷 자유도는 역대 최저치를 기록했고, 웹사이트에서 정치적, 사회적, 종교적 발언을 차단한 국가의 수는 그 어느 때보다 많아졌다. 또한 인터넷에서의 표현을 이유로 국민을 체포한 국가의 수도 사상 최고치를 기록했다.

다음 해에 전 세계적으로 50건이 넘는 선거가 예정되어 있음을 고려할 때 이는 특히 심각한 문제다. 프리덤하우스가 지적한 것처럼 인터넷 자유는 선거 주기에 가장 큰 위협에 처하게 된다. 프리덤하우스는 점점 더 심화되는 인터넷 자유의 위기에 대한 국제사회의 대응 방안에 관하여 몇 가지 권고사항을 발표했으며, 필자 역시 이와 관련하여 다른 정책 전문가에게 자문을 구했다.