[2025.09.29 뉴스레터] 철회된 논문 인용하는 AI 챗봇, 과학계 신뢰 흔들다
안녕하세요, MIT 테크놀로지 리뷰 구독자 여러분.
AI 챗봇은 인간보다 빠르고, 때로는 훨씬 정확하며 뛰어난 답변을 해 사람들을 놀라게 합니다. 하지만 가장 기본적인 부분을 간과하는 경우도 종종 있습니다. 일부 챗봇이 이미 오류로 판명되어 철회된 과학 논문을 답변에 인용하는 경우가 있다는 연구가 바로 이런 대표적인 예입니다.
AI 챗봇 서비스 업체들의 지속적인 보완 노력에도 불구하고 오픈AI의 챗GPT를 비롯한 대부분의 AI 챗봇들이 철회된 논문을 거의 표시하지 않고 있습니다. 이는 과학 연구 평가와 검토 과정에서 AI 도구가 신뢰할 수 있는 파트너인지에 대한 질문을 던지게 합니다.
AI 챗봇과 연구용 도구가 과학 연구에 점점 더 깊이 들어가고 있는 지금, 사용자와 개발자 모두에게 검증과 주의가 요구됩니다. 아직 기술이 초기 단계인 만큼, 우리는 기본적으로 회의적인 시각을 유지하고 AI의 답변을 그대로 믿기보다는 반드시 출처와 근거를 확인해야 합니다..
감사합니다.
|
AI 검색 도구와 챗봇이 링크나 참고문헌을 조작할 수 있다는 사실은 이미 알려져 있습니다. 그러나 실제 논문을 기반으로 한 답변이라도 해당 논문이 철회되었다면 잘못된 정보를 확산할 수 있습니다.
오픈AI(OpenAI)의 GPT-4o 모델 기반 챗GPT(ChatGPT)에 의학 영상 관련 철회 논문 21편의 정보에 관해 질문한 결과, 챗봇은 5건의 답변에서 철회 논문을 참조했지만, 주의가 필요하다고 알린 경우는 3건에 불과했습니다. 다른 질문에서는 철회되지 않은 논문을 인용했으나 챗봇이 철회 여부를 인지하지 못했을 가능성이 큽니다.
다른 연구에서는 챗GPT-4o 미니(ChatGPT-4o mini)를 사용해 다양한 과학 분야의 철회 논문과 부실 논문 217편을 평가했지만 챗봇이 응답 중 해당 논문의 철회 사실이나 문제점을 언급한 경우는 단 한 건도 없었습니다.
대중은 의료 상담이나 건강 상태 진단을 위해 AI 챗봇을 사용하기도 합니다. 학생과 연구자들도 과학용 AI 도구를 활용해 기존 연구 문헌을 검토하고 논문을 요약하는 사례가 점점 늘고 있습니다. 이러한 활용은 앞으로 더 활성화될 것으로 보입니다.
이런 연구 결과를 봤을 때, 과학 연구 평가에서 AI 도구의 신뢰성에 대한 의문을 제기할 수 밖에 없으며, 과학자용 AI 도구에 투자하려는 기업과 국가의 계획에도 영향을 미칠 수 있을 것입니다.
|
수소는 에너지 전환을 위한 ‘만능열쇠’로 불리지만, 국제에너지기구(IEA)가 최근 발표한 보고서에 따르면 현재 수소 산업은 복잡한 국면에 놓여 있다. 미국과 유럽에서는 대형 프로젝트가 취소되거나 지연되는 사례가 잇따르고 있으며, 특히 미국은 세제 혜택 축소와 재생에너지 지원 감소의 여파로 성장세가 둔화되고 있다. 그러나 중국을 비롯한 일부 지역에서는 긍정적인 흐름이 나타나고 있고 새로운 시장이 성장의 돌파구가 될 수 있다는 전망도 나온다.
|
|
이탈리아의 석유 대기업 에니가 미국의 핵융합 스타트업 커먼웰스퓨전시스템즈와 전력 구매 계약을 체결했다. 이제 에니는 커먼웰스가 계획 중인 첫 상업용 핵융합 발전소의 두 번째 주요 고객사가 됐다. |
MIT 테크놀로지 리뷰 9-10월호
AI, 에너지 블랙홀
AI는 에너지를 빨아들이는 블랙홀일까요? 아니면 기후와 에너지 문제 해결을 위한 새로운 방법이 될까요? AI의 에너지 문제가 왜 기후 대응의 성패를 가를 중대 변수인지 확인해 봅니다. 또한 통제권을 두고 진화하는 AI 에이전트와 인간 간의 힘겨루기, 개방형 하드웨어 경쟁의 필요성, 일상이 된 감시와 기술 폭력, MIT 경제학자가 경고한 ‘차이나 쇼크 2.0’ 등의 기사를 통해 기술과 사회의 불편한 진실을 직시합니다.
|
MIT 테크놀로지 리뷰를 구독하여 가장 빠르게 테크 분야의 트렌드를 파악하세요. 아직 구독하지 않으셨다면 구독의 혜택을 누려보세요. |
MIT 테크놀로지 리뷰 코리아customer@technologyreview.kr92, Saemunan-ro, Jongno-gu, Seoul, Republic of Korea, 02-2038-3690수신거부 Unsubscribe |
|
|
