📋한눈에 보는 AI 요약AI 자동 요약▶ 펼쳐보기
구글의 AI 챗봇 제미나이, 오픈AI의 챗GPT 등 생성형 AI가 사용자의 개인 전화번호나 주소 같은 민감한 정보를 엉뚱한 사람에게 알려주는 사고가 계속 발생하고 있습니다. AI가 인터넷에서 긁어모은 방대한 데이터로 학습하는 과정에서 개인정보까지 함께 기억하게 되고, 이를 질문에 대한 답변으로 내놓는 것이 원인입니다. AI 기업들이 개인정보 노출을 막기 위한 안전장치를 마련하고 있지만, 완벽하게 작동하지 않는 경우가 많습니다. 이미 학습된 데이터에서 특정 개인의 정보만 골라 삭제하는 것도 현재 기술로는 매우 어렵습니다. 관련 개인정보 삭제 요청은 최근 7개월 사이 400%나 급증하여 문제의 심각성을 보여주고 있습니다.
왜 중요한가요?
AI 챗봇은 이제 수억 명이 매일 사용하는 도구가 되었기 때문에, 누구의 전화번호나 집 주소든 본인도 모르게 노출될 수 있다는 점에서 모든 사람의 사생활과 안전에 직접적인 영향을 미치는 문제입니다.
주요 용어 설명
개인식별정보 (PII, Personally Identifiable Information)
이름, 전화번호, 집 주소, 주민등록번호처럼 특정 한 사람을 알아볼 수 있게 해주는 정보를 말합니다. 마치 여러분의 학생증에 적힌 정보처럼, 그 정보만으로 누구인지 특정할 수 있는 데이터입니다.
콘텐츠 필터 (Content Filter)
AI가 답변을 내놓기 전에 위험하거나 민감한 내용이 포함되어 있는지 자동으로 검사하여 걸러내는 안전장치입니다. 학교 컴퓨터에서 유해 사이트를 차단하는 필터와 비슷한 원리이지만, AI의 경우 이 필터를 우회하거나 빠져나가는 경우가 종종 발생합니다.
데이터 브로커 (Data Broker)
여러 곳에서 사람들의 개인정보를 수집한 뒤 이를 정리하여 다른 기업에 판매하는 회사를 말합니다. 마치 중고 물품 중개상처럼 정보를 사고파는 역할을 하는데, 이들이 보유한 데이터가 AI 학습에도 활용될 수 있어 개인정보 유출 위험을 키우고 있습니다.
⚡ Claude AI가 독자를 위해 자동 생성한 요약입니다. 원문을 함께 읽어보세요.
구글의 생성형 AI가 이용자의 개인 연락처를 노출했다는 사례가 잇따르고 있다. 문제는 이를 사전에 차단할 방법이 사실상 없다는 점이다.
최근 미국의 온라인 커뮤니티 플랫폼 레딧(Reddit)에서는 한 이용자가 “도움이 절실하다”며 “한 달 가까이 낯선 사람들의 전화를 계속 받고 있다”고 호소했다. 그는 “모르는 사람들이 변호사나 제품 디자이너, 열쇠 수리공을 찾는다며 연락해 왔는데, 구글의 생성형 AI가 이용자들에게 전화번호를 잘못 안내해서 엉뚱한 전화가 오는 것 같다”고 덧붙였다.
비슷한 사례는 다른 지역에서도 확인되고 있다. 지난 3월에는 이스라엘의 한 소프트웨어 개발자가 “구글 챗봇 제미나이가 고객 지원 안내 과정에서 자신의 전화번호를 잘못 포함시키는 바람에 왓츠앱(WhatsApp) 메시지를 받았다”고 밝혔다. 이어 4월에는 워싱턴대학교의 한 박사과정 연구원이 제미나이를 테스트하던 중 동료의 개인 휴대전화 번호가 응답으로 노출되는 일을 겪기도 했다.
이 같은 사례는 생성형 AI의 개인정보 위험이 더 이상 이론에 머물지 않는다는 점을 보여준다. AI 연구자와 개인정보 보호 전문가들이 오래전부터 경고해 온 우려가 실제 사례로 드러나고 있는 것이다. 다만 레딧 이용자의 사례는 독립적으로 검증되지는 않았고, 당사자 역시 추가 취재 요청에 응답하지 않았다.
MIT 테크놀로지 리뷰와 함께, 미래를 앞서가세요 !!
한달에 커피 2잔값으로 즐기기
온라인 멤버
지면 매거진 멤버
(온라인+지면) 프리미엄 멤버
유료회원 플랜 보기
회원이면 로그인하기
회원가입
회원 가입 후 유료 구독 신청을 하세요 !!
