일부 AI 챗봇이 철회된 과학 논문을 답변에 활용하고 있다는 연구 결과가 나왔다. MIT 테크놀로지 리뷰가 확인한 이번 결과는 AI 도구가 과학 연구를 평가하는 데 얼마나 신뢰할 수 있는지에 대한 의문을 제기한다. 또 과학자용 AI 도구 개발에 투자하려는 각국 정부와 산업계의 계획을 복잡하게 만들 수 있다.

AI 검색 도구와 챗봇이 링크나 참고문헌을 조작할 수 있다는 건 이미 잘 알려져 있다. 그러나 실제 논문을 기반으로 한 답변이라도 해당 논문이 철회되었다면 잘못된 정보를 확산할 수 있다. 테네시 대학교 멤피스 캠퍼스 의학 연구자로서 최근 발표된 관련 연구 중 하나를 저술한 웨이콴 구(Weikuan Gu)는 “챗봇은 실제 논문과 실제 자료를 사용해 답변을 제공하지만 사용자가 답변 내용만 보고 참고 논문을 직접 확인하지 않아 철회 사실을 놓친다면 큰 문제가 될 수 있다”고 지적했다.