[2025.07.21 뉴스레터] 딥페이크 막는 새로운 무기, '머신 언러닝'이란?
안녕하세요, MIT 테크놀로지 리뷰 구독자 여러분.
최신 AI 기술은 몇 초짜리 음성 샘플만으로도 누구의 목소리든 정교하게 복제해낼 수 있다고 합니다. 바로 딥페이크 음성 기술이죠. 이 새로운 기술은 특히 음성 학습에 필요한 시간과 노력을 크게 줄일 수 있지만, 사기, 신원 도용, 허위정보 유포 등 사회적 피해를 유발하는 심각한 위협이 될 수도 있습니다.
이러한 문제에 대응하기 위해 등장한 기술이 바로 ‘머신 언러닝(Machine Unlearning)’, 인공지능에게 ‘기억하지 않는 법’을 가르치는 새로운 방식입니다.
기존의 보안 방식이 프롬프트를 막거나 출력 결과를 제한하는 ‘울타리’였다면, 언러닝은 아예 울타리 안의 정보를 삭제하는 접근입니다. 이번 연구는 메타의 음성 모델 ‘보이스박스’를 활용해 실험됐습니다.
AI의 능력은 점점 더 정교해지고 있지만, 이제는 ‘망각’이라는 윤리적 기능이 더욱 중요해지는 시대입니다. AI가 책임 있게 쓰이기 위해선, ‘기억’만큼이나 ‘잊음’도 잘해야 하지 않을까요?
감사합니다. |
‘머신 언러닝(machine unlearning)’이라는 기술로 AI 모델이 특정 목소리를 ‘잊도록’ 만들 수 있다는 연구 결과가 나왔습니다. 타인의 음성을 모방해 사기나 범죄에 악용되는 오디오 딥페이크 문제를 막기 위한 중요한 첫걸음이 될 수 있다는 평가가 나오고 있습니다.
지금까지 기업들은 음성 음성 모델의 악용을 막기 위해 ‘가드레일’을 설치하는 방식으로 대응해 왔습니다. 사용자의 입력(프롬프트)이나 모델의 출력 결과에 허용되지 않은 정보가 포함돼 있는지를 감지해 차단하는 식인 것입니다.
반면 머신 언러닝은 아예 모델이 특정 정보를 기억하지 못하도록 만드는 방식입니다. 민감한 데이터를 학습한 기존 모델과 해당 데이터를 활용해, 해당 정보를 아예 배우지 않은 것처럼 초기화된 새로운 모델을 만들어내는 개념인 것이죠.
|
|
현재 중국은 차세대 에너지 기술 분야에서 지배적인 역할을 하고 있다. 중국은 풍력과 태양광 같은 재생에너지원을 전력망에 연결하는 데 수천억 달러를 투자하고 있고, 수백만 대의 전기차를 생산하고 있으며, 에너지 저장, 원자력 발전 등 에너지 분야의 역량을 키우는 데 힘쓰고 있다. 이러한 투자를 통해 중국은 경제적 변화를 겪으며 전 세계 정치 무대에서 주요 국가로 자리매김하게 되었다. |
MIT 테크놀로지 리뷰 7-8월호 매거진 출시 |
MIT 테크놀로지 리뷰 7-8월호
AI는 이제 그림을 그리고, 음악을 작곡하며, 로봇의 형상을 설계하기까지 합니다. 이번 특집에서는 철학적 통찰부터 산업 현장에서 체감한 AI 창의성의 실용적 의미까지 다양한 시선을 담았습니다.
또한 ‘AI 에이전트’의 전면 자율화가 가져올 위험과 기회, MCP 같은 핵심 기술이 열어갈 새로운 미래에 대해서도 다루고 있습니다. 그리고 중국 기업들의 최신 전략까지, 기술 변화의 흐름을 읽는 데 도움이 될 기사들을 확인해 보세요.
|
MIT 테크놀로지 리뷰를 구독하여 가장 빠르게 테크 분야의 트렌드를 파악하세요. 아직 구독하지 않으셨다면 구독의 혜택을 누려보세요. |
MIT 테크놀로지 리뷰 코리아customer@technologyreview.kr92, Saemunan-ro, Jongno-gu, Seoul, Republic of Korea, 02-2038-3690수신거부 Unsubscribe |
|
|
