2024년 1월 미국 프라이머리(예비경선)를 앞두고 뉴햄프셔주 전역의 가정에서는 전화벨이 울렸다. 수화기 너머로 민주당원들에게 “투표하지 말라”고 말하는 조 바이든 당시 미국 대통령의 목소리가 들려왔다. 진짜 대통령의 목소리 같았지만 아니었다. 이 전화는 AI가 생성한 ‘가짜 전화’였다.

현재 시점에서 보면 그 ‘가짜 전화’에 사용된 기술은 구식처럼 느껴진다. 오픈AI의 소라(Sora)와 같은 도구를 사용하면 이제는 아주 손쉽게 매우 설득력 있는 합성 영상을 제작할 수 있다. 정치인이나 유명인의 메시지, 심지어 뉴스 한 꼭지 전체도 AI로 단 몇 분 만에 조작할 수 있다. 마치 ‘진짜’ 같은 가짜뉴스로 선거가 좌초될 수 있다고 우려하는 것은 당연한 일이 됐다. 그 이유도 충분히 납득할 만하다.

그러나 그게 전부가 아니다. 더 큰 문제는 AI가 단순히 사람을 모방하는 것을 넘어 적극적으로 사람들을 설득할 수 있다는 점이다. 그 ‘설득력’이 얼마나 강력한지는 12월 초에 발표된 새로운 연구 결과에서 확인할 수 있다. 두 건의 대규모 동료평가 연구에 따르면 AI 챗봇은 기존의 정치 광고보다도 훨씬 더 효과적으로 유권자들의 의견을 크게 바꾸는 데 성공했다.

앞으로 몇 년 후면 우리는 AI가 더 널리 활용되면서 각각의 상대에 맞춤화된 주장을 제공하고 설득 효과를 시험하면서 조용히, 대규모로 사람들의 정치적 의견을 원하는 방향으로 유도하는 모습을 목격하게 될 것이다. AI의 활용이 모방에서 적극적인 설득으로 전환되는 것에 대해 우려가 커질 수밖에 없다.