AI를 활용한 ‘거짓말’은 이제 우리의 온라인 생활 전반에 깊숙이 스며들었다. 그 양상도 다양하다. 최근 백악관 관계자들이 이민 단속 요원의 총격으로 민간인 사망 사건이 잇따라 발생하자 촉발된 미네소타 시위 현장의 이미지를 조작해 공유하고, 이에 대해 문제를 제기하는 사람들을 조롱한 사례처럼 노골적인 경우도 있다. 반면, 러시아에서 우크라이나인의 입대를 막기 위해 퍼뜨린 영상처럼 조용히 소셜미디어 피드에 스며들어 조회 수를 쌓는 방식도 존재한다.

이 같은 혼란 속에서 마이크로소프트는 온라인에서 ‘어떤 콘텐츠가 진짜인지’ 입증하는 방법에 대한 청사진을 마련해 MIT 테크놀로지 리뷰에 공유했다.

최근 마이크로소프트의 AI 안전 연구팀은 디지털 조작을 기록하고 추적하는 여러 방법을 사용해 ‘인터랙티브 딥페이크(interactive deepfake)’나 누구나 접근 가능한 초현실적 모델처럼 오늘날 가장 우려되는 최신 AI 기술에 얼마나 효과적으로 대응할 수 있는지 평가했다. 이후 AI 기업과 소셜미디어 플랫폼이 채택할 수 있는 기술 표준을 권고했다. 인터랙티브 딥페이크는 미리 만들어진 가짜 영상을 보여주는 것이 아니라 실시간 화상 통화나 라이브 방송에서 상대방의 질문에 대답하고 표정을 바꾸며 대화할 수 있는 수준의 기술을 말한다.