이 문장은 AI가 작성했을까? 아니면 사람이 쓴 것일까? 오픈AI(OpenAI)가 내놓은 AI 챗봇 챗GPT(ChatGPT)가 새로운 문제를 제기하고 있다. 우리는 온라인에서 읽은 글이 사람이 썼는지 아니면 기계가 작성했는지 어떻게 구별할 수 있을까? 

지난해 11월 말 오픈AI가 내놓은 챗GPT는 지금까지 100만 명 이상의 사용자를 만들었다. AI 커뮤니티는 챗GPT의 매력에 흠뻑 빠졌고, 인터넷은 점점 AI가 생성한 문장으로 홍수를 이루고 있다. 사람들은 재미있는 유머를 만들어내고, 아이들을 위해 동화를 지어내고, 더 나은 이메일을 작성하기 위해 챗GPT를 활용하고 있다. 

챗GPT는 오픈AI의 대형 언어 모델 GPT-3의 스핀오프 버전으로 주어진 질문에 사람이 실제 말하는 것 같은 답변을 생성한다. 이러한 대형 언어 모델들의 특성과 위험성은 실제처럼 착각하기 쉬운 AI의 정확성에서 나온다. 이들이 생성한 문장은 알맞은 단어들을 정확한 순서대로 사용하기 때문에 올바른 듯 보인다. 그러나 정작 AI는 그 문장이 무엇을 의미하는지 모른다. 한 문장을 만들 때 다음에 올 가능성이 가장 높은 단어를 예측해 배열할 뿐이다. 이 언어 모델들은 무엇이 옳고 그른지 알 수 없고, 심지어 잘못된 경우에도 그 정보를 사실처럼 당당히 제시한다.

이미 양극화되고 정치적 콘텐츠가 가득한 온라인 세상에서 이러한 AI 모델들은 우리가 다루는 정보를 더 왜곡할 수 있다. 이 모델들이 실제 제품으로 현실에 출시된다면 그 결과는 끔찍할 것이다.