인터넷에 개인 사진을 올리는 것은 될 대로 되라는 식의 느낌을 준다. 누가 이 사진을 이용할까? 이 사진으로 무엇을 할까? 어떤 머신러닝 알고리즘이 이 사진으로 훈련을 할까?

클리어뷰 AI(Clearview AI)는 이미 미국 사법기관에 안면인식 도구를 제공했다.  온라인 상에서 긁어 모은 수백만 명의 사진으로 훈련된 시스템이었다. 그러나 그것은 시작에 불과했다. 이제 기본적인 코딩 기술을 보유한 사람이라면 누구나 안면인식 소프트웨어를 개발할 수 있게 되었다. 이것은 성희롱과 인종 차별에서부터 정치적 억압과 종교적 박해까지 모든 분야에서 기술을 오남용할 가능성이 그 어느 때보다 높다는 의미이다.

많은 AI 연구원들이 AI가 개인 데이터로 학습할 수 없도록 하는 방법을 개발하고 있다. 가장 최근 개발된 방법 중 두 가지가 유명 인공지능 컨퍼런스 ICLR(International Conference on Learning Representations)에서 소개될 예정이다.

시카고대학의 에밀리 웽어(Emily Wenger)는 “나는 사람들이 나에게서 가져가선 안 될 것을 가져가는 것을 원하지 않는다”라고 말한다. 웽어는 지난 여름 동료 연구진과 함께 이 분야 최초의 도구 중 하나인 포크스(Fawkes)를 개발했다. “많은 사람들이 동시에 비슷한 생각을 했을 것이다.”