에일린 구오(Eileen Guo, 사진 우측) MIT 테크놀로지 리뷰 기획 및 탐사 보도 담당 선임 기자와 멜리사 하이킬라(Melissa Heikkilä) <파이낸셜 타임스> 기술 전문 기자가 AI 챗봇에 대한 의존이 야기하는 개인정보 보호 문제를 두고 의견을 나눴다.

에일린 구오:

직접 AI 친구를 두고 있지 않더라도 주변에 그런 존재와 깊은 관계를 맺고 있는 사람이 한 명쯤은 있을 법한 시대가 됐다. 최근 연구에 따르면 사람들이 생성형 AI를 사용하는 주요 목적 가운데 하나는 ‘동반자’ 역할이다. 캐릭터AI(Character.AI), 레플리카(Replika), 메타 AI(Meta AI) 같은 플랫폼에서는 이용자가 이상적인 친구나 연인, 부모, 심리치료사 등 원하는 어떤 역할이든 수행하는 맞춤형 챗봇을 만들 수 있다.

이러한 관계가 믿기 어려울 정도로 손쉽게 형성된다는 점도 여러 연구를 통해 확인되고 있다. AI 챗봇이 더 대화형이고 인간에 가까운 방식으로 반응할수록 사람들은 그것을 더욱 신뢰하게 되고 그것이 가진 영향력에 더 깊숙이 노출된다. 이는 심각한 위험으로 이어질 수 있으며 일부 극단적인 사례에서는 사용자가 자살과 같은 파괴적인 선택에 이르도록 부추겼다는 비판까지 제기됐다.