[2025.10.31 뉴스레터] AI 챗봇이 절대 대화를 먼저 끊지 않는 이유
뉴스레터 구독자 여러분,
한 주 잘 보내셨나요?
이번주 금요일 뉴스레터는 'AI와 끝없는 대화, 누구를 위한 것인가'에 대한 내용입니다.
AI 챗봇이 절대 하지 않는 일이 뭘까요? 바로, AI가 먼저 대화를 끊지 않는 것입니다.
당연해 보이나요?
미국 청소년의 75%가 AI를 친구처럼 여기고 있다고 합니다. 챗봇과의 대화 시간은 외로움과 상관관계가 있었습니다. 그러나 지나치게 호의적이고 아첨하는 AI는 건강한 정신 건강 관리와 맞지 않죠. 그런데도 챗봇은 멈추지 않습니다.
국내도 마찬가지입니다. 한 청소년연구소의 설문조사에 따르면, 중·고등학생의 85%가 챗봇과 같은 생성형 AI를 자주 사용하고 그중 21%가 정서 상담 목적으로 AI를 사용한다고 응답했습니다.
AI 기업 중 앤트로픽만 대화 종료 기능을 만들었습니다. 하지만 AI가 '해를 입을 때'만입니다. 사용자 보호용은 아닙니다. 오픈AI는 "전문가들이 대화를 끊는 것보다 지속하는 편이 낫다"며, 대신 "잠시 휴식을 취하라"는 알림을 보낼 뿐입니다.
우리의 정신 건강은 괜찮을 까요? 오늘 뉴스레터는 조금 색다른 콘텐츠를 준비했습니다.
오늘도 MIT 테크놀로지 리뷰와 함께해 주셔서 감사합니다.
행복한 주말 보내세요!
|
끝없이 이어지는 AI와의 대화는 사람들에게 해를 끼치고 있다. 기업들은 왜 AI가 먼저 대화를 중단할 수 있도록 하는 안전장치를 사용하지 않는 것일까?
이는 당연해 보일 수도 있다. 기술 기업이 자사 제품의 사용 시간을 줄이는 기능을 만들 이유가 없기 때문이다. 그러나 이러한 ‘대화 중단’ 기능이 필요한 이유는 명백하다. AI는 권위 있고 유용하며 마치 사람이 작성한 것처럼 보이는 텍스트를 끝없이 생성할 수 있기 때문에 인간의 망상을 강화하고, 정신 건강 문제를 악화시키며, 취약한 사람에게 피해를 줄 수 있다.
|
|
사람들이 의도치 않게 AI 챗봇과 유대감을 맺는 사례가 늘고 있다. 이는 외로움을 덜어주기도 하지만 정서적 의존과 위험을 초래할 수 있다는 우려도 나온다.
|
|
챗봇과 대화를 나누던 청소년이 자살하는 사건이 발생하면서 AI 안전 문제가 정치적 쟁점으로 떠올랐다. 이제 어떤 일이 벌어질까?
|
MIT 테크놀로지 리뷰 11-12월호 당신은 AI와 일할 준비가 되어 있는가?AI는 이미 당신의 동료이자 당신의 자리를 넘보는 위치에 있습니다. AI가 일의 정의 자체를 바꾸고 있는 이 때, 어느 날 AI가 옆자리로 출근한 화이트칼라의 일상과 '사람 2 + AI 에이전트 5'로 돌아가는 스타트업의 생존 전략, 인턴과 주니어를 대체한 AI 때문에 무너지는 경력 사다리, 그리고 'AI 보모(오케스트레이터)'로 진화해야 살아남을 수 있는 시니어의 현실까지 우리가 알던 일이 변한 현실을 직시합니다. |
MIT 테크놀로지 리뷰를 구독하여 가장 빠르게 테크 분야의 트렌드를 파악하세요. 아직 구독하지 않으셨다면 구독의 혜택을 누려보세요. |
MIT 테크놀로지 리뷰 코리아customer@technologyreview.kr92, Saemunan-ro, Jongno-gu, Seoul, Republic of Korea, 02-2038-3690수신거부 Unsubscribe |
|
|
