DGIST, 데이터 지워도 추천 성능 지키는 AI…’잊힐 권리’와 품질 균형

한 사용자가 자신의 데이터를 지워달라고 요청해 AI에서 그 흔적을 제거할 때, 뜻밖에 다른 이용자들의 추천 품질까지 떨어지는 문제를 자동으로 보정하는 기술이 개발됐다.

DGIST 나노기술연구부 이상철 책임연구원 연구팀은 데이터 삭제 이후 추천 성능이 크게 저하되는 사용자군을 자동으로 찾아 보정하는 AI 기술 ‘Ada-Comp(에이다-콤프)’를 개발했다고밝혔다. 이 기술이 주목받는 배경에는 ‘잊힐 권리’와 AI 성능 사이의 충돌이 있다. 개인정보 보호 요구가 커지면서, 이미 학습을 마친 AI에서도 특정 사용자의 데이터 영향을 지우는 ‘머신 언러닝(machine unlearning)’ 기술이 핵심 과제로 떠올랐다. 문제는 추천시스템에서 사용자들이 서로 독립적으로 존재하지 않는다는 데 있다. 한 사람의 데이터를 지우면 그와 연결된 다른 이용자에게 전달되는 정보까지 바뀌어, 엉뚱한 사람의 추천 품질이 나빠질 수 있다.

연구팀은 머신 언러닝의 초점을 ‘삭제 대상의 정보를 잘 지웠는가’에서 ‘그 삭제가 다른 사용자에게 어떤 영향을 미치는가’로 확장했다. 이번 연구는 정유진 학부연구생이 제1저자로 참여했으며, 세계 최고 권위의 데이터 마이닝 학술대회 ‘KDD’의 학부생 부문(KDD-UC ’26)에 단 28편만 선정된 연구 중 하나로 지난 8월 제주에서 발표됐다.

‘잊힐 권리’가 부른 뜻밖의 부작용

머신 언러닝은 ‘잊힐 권리’를 AI에 구현하기 위한 기술이다. 사용자가 데이터 삭제를 요청하면, 그 데이터로 이미 학습을 마친 AI 모델에서도 해당 정보의 영향을 되돌려 지운다. 개인정보를 단순히 데이터베이스에서 지우는 것을 넘어, AI가 그 데이터로 배운 내용까지 잊게 만드는 것이다.

문제는 이 삭제가 다른 사람에게 파급된다는 데 있다. 특히 이번 연구가 다룬 ‘그래프 신경망(GNN)’ 기반 추천시스템에서 그렇다. GNN은 사용자와 콘텐츠(아이템) 사이의 관계를 하나의 거대한 연결망(그래프)으로 학습하는 AI다. 누가 무엇을 좋아했는지를 그물처럼 엮어, 비슷한 취향의 사람들끼리 정보를 주고받게 하는 방식이다.

이 구조에서는 사용자들이 서로 연결돼 있기 때문에, 한 사람의 데이터를 삭제하면 그와 이어진 다른 사용자에게 전달되던 정보에도 변화가 생긴다. 내 데이터를 지운 것도 아닌데, 다른 사람의 삭제 때문에 내가 받는 추천이 나빠질 수 있는 것이다. 기존 연구들이 ‘삭제가 제대로 됐는가’에만 집중하는 사이, 이 파급 효과는 충분히 다뤄지지 않았다.

소수의 ‘다리 사용자’가 흔들릴 때

연구팀은 사용자들을 행동 특성에 따라 여러 그룹으로 나눠 삭제의 영향을 분석했다. 이용 빈도, 선호하는 콘텐츠의 대중성, 관심 분야의 집중도 등을 기준으로 삼았다. 그 결과, 모든 사용자가 삭제의 영향을 똑같이 받는 것이 아니라 특정 사용자군이 유독 큰 타격을 받는다는 사실이 드러났다.

주목할 발견은 ‘다리 역할’을 하는 사용자군의 존재다. 대중성이 낮은 콘텐츠를 주로 이용하는 일부 사용자들이, 추천 연결망에서 서로 다른 사용자와 콘텐츠 사이의 정보 전달을 이어주는 다리 같은 역할을 하는 것으로 나타났다. 이런 연결에 크게 의존하는 사용자군은, 다른 사용자의 데이터가 삭제될 때 추천 품질과 연결 구조에 더 큰 영향을 받았다.

여기서 딜레마가 생긴다. 구조적으로 중요한 이 사용자군을 그대로 두면 일부 사용자에게 불필요한 신호가 전달될 수 있고, 반대로 이들을 삭제하면 연결망 자체가 약해진다. 연구팀은 이 양면적 문제를 ‘브리지 붕괴 딜레마(Bridge-collapse Dilemma)’라는 새로운 관점으로 분석했다. 같은 데이터 삭제라도 사용자의 이용 특성과 연결 관계에 따라 그 여파가 전혀 다르게 나타난다는 점을 드러낸 것이다.

피해 집단 찾아 자동 보정한다

Ada-Comp의 해법은 ‘피해가 집중된 집단을 찾아 그 부분만 손보는’ 것이다. 먼저 삭제 요청을 반영해 모델을 다시 학습한 뒤, 사용자 그룹별 추천 성능을 비교한다. 그중 성능이 가장 크게 떨어진 사용자군을 자동으로 진단하고, 해당 그룹의 이용 기록을 중심으로 추가 학습(보정)을 수행한다. 전체를 뒤엎지 않고 문제가 생긴 부위만 겨냥해 보정하는 방식이다.

성능은 실험으로 확인됐다. 영화 추천 데이터셋(MovieLens-1M)을 이용한 실험에서, Ada-Comp는 데이터를 처음부터 완전히 다시 학습하는 방법과 비교해 그룹 간 성능 격차를 10.3% 줄였고, 추천되는 콘텐츠의 다양성은 8.9% 높였다. 다른 데이터셋을 이용한 추가 검증에서도 대다수 지표에서 성능 향상을 확인했다. 전체 추천 품질을 대체로 유지하면서, 특정 집단에 쏠리던 피해를 완화한 것이다.

연구팀은 이 기술의 의미를 개인정보 보호와 서비스 품질을 ‘별개가 아닌 함께 풀어야 할 문제’로 본 데서 찾았다. 데이터 삭제를 충실히 반영하면서도, 그 과정에서 특정 사용자군에 예상치 못한 성능 저하가 집중되지 않도록 하는 것이다. 전자상거래, 콘텐츠, 음악, 영상처럼 사용자와 아이템의 관계를 그래프로 학습하는 다양한 추천 서비스에 확장할 수 있다.

다만 아직 실용화 이전 단계라는 점은 짚어둘 만하다. 현재는 공개 데이터와 여러 추천 모델로 개념과 효과를 검증한 수준으로, 실제 서비스에서는 어떤 사용자군이 영향을 받았는지 빠르게 판단하고 상황에 맞춰 보정 강도를 자동으로 결정하는 기술로 발전시켜야 한다. 이상철 책임연구원은 “개인정보를 안전하게 삭제하는 것뿐 아니라 그 과정에서 다른 이용자의 서비스 품질이 저하되지 않도록 하는 것 역시 신뢰할 수 있는 AI를 위해 중요하다”며 “머신 언러닝 이후 발생할 수 있는 사용자군별 성능 격차를 줄이는 새로운 방향을 제시할 것”이라고 말했다.