Why 2020 was a pivotal, contradictory year for facial recognition

우려와 기대 교차하는 얼굴 인식 기술

인종 평등 운동은 얼굴 인식 기술 문제에 대해 대중의 경각심을 불러 일으켰다. 그럼에도 얼굴인식 기술 오용은 좀처럼 줄어들 기미를 보이지 않는다.

2020년 1월, 미국에서 얼굴 인식 기술 오류로 부당하게 체포된 최초 사례가 발생했다. 흑인 로버트 윌리엄스는 디트로이트 외곽 도로에서 아내와 어린 딸이 지켜보는 가운데 체포되었다. 윌리엄스는 유치장에서 하룻밤을 보냈다. 다음날 조사실에서 형사는 시계 매장 CCTV에 찍힌 흑인 사진을 건넸다.

“본인 맞아요?” 형사가 물었다.
“아니요. 저 아닌데요” 윌리엄스가 답했다.
형사는 다른 사진을 보여주었다. “이 사진도 아닌 것 같은데?”
윌리엄스는 사진을 얼굴 옆에 댔다. 분명히 윌리엄스가 아니었다. 윌리엄스는 “이 사진은 제가 아닙니다. 흑인이면 다 똑같다고 생각하는 건 아니겠지요”라고 말했다.
“컴퓨터가 맞대요” 형사가 대답했다.

로버트 윌리엄스 체포 사건에서 주목할 점은 체포가 발생했다거나 실수였다는 것이 아니다. 얼굴 인식 기술은 피부색이 어두운 사람의 경우 정확성이 떨어진다고 알려져 있다. 이 기술이 얼마나 많이 사용되는지에 대해 믿을만한 자료는 없지만, 미국 경찰에서 널리 쓰이고 있다. 윌리엄스 사건에서 경찰은 얼굴 인식 기술을 사용했다는 것을 시인했다.

이 사건은 2020년 8월 초에 알려졌는데, 미국에서 경찰이 흑인들을 대하는 방식에 항의하는 여름의 시위 사태와 맞물려 전국적 분노를 불러 일으켰다. 몇 주 후, 얼굴 인식 기술 오류로 디트로이트에서 흑인이 또 잘못 체포되는 사건이 발생했다.

이 전에도, 관련 운동가들은 범죄 축소를 위해 얼굴 인식을 사용하는 도시 차원 민관 사업인 프로젝트 그린라이트(Project Greenlight) 중단을 요구했다. 그러나 이 프로젝트는 여전히 진행 중이며, 9월 말 시의회는 디트로이트 경찰국과 얼굴 인식 제공업체 데이터웍스 플러스(DataWorks Plus)의 계약을 연장하기로 했다.

모순의 시기

디트로이트 사건은 얼굴 인식 기술의 복잡한 현주소를 잘 보여주는 사례이다. 얼굴 인식 기술의 사용은 증가 추세이다. 어떤 분야에서는 필수적이다. 유통업 같은 분야에서 얼굴 인식 기술은 미래에 대한 큰 기대감 속에서 계속 도입되고 있다. 기술 기업들은 사람들이 생체 인식 인증(Biometrics) 사용에 점점 더 익숙해질 것이고, 생체 인식 인증은 머지않아 디지털 생활의 자연스러운 일부가 될 것이라고 보고 있다. 애플은 이 같은 의견에 한껏 기대를 걸었고, 현재 수백만 명의 사람들이 아이폰 잠금 해제를 위해 매일같이 얼굴 인식(Face ID) 시스템을 이용한다.

그러나 사람들은 사법 제도에서 얼굴 인식 시스템이 초래한 위험에 대해 다시 생각하게 되었다. 현재 그 어느 때보다도 훨씬 경각심이 늘어났고, 2020년에는 얼굴 인식에 관한 법률이 예년보다 더 많이 제정되었다. 2019년 미국 전역에서 6개 도시가 얼굴 인식 사용 금지나 중단 조치를 취했고, 2020년도 마찬가지였다.

관련 법안과 얼굴 인식 산업 성장의 균형을 맞추기는 어려우리라 예상된다. 그러나 2020년 사건을 보면 이러한 작업이 금년에 어떤 방식으로 진행될 지에 대한 실마리를 얻을 수 있다.

소규모 업체, 대규모 산업

1월, 뉴욕 타임즈는 클리어뷰AI(ClearviewAI)에 대한 탐사기사를 보도했다. 클리어뷰AI는 소셜 미디어에서 얻은 수십억 장의 사진을 데이터베이스로 알고리즘을 운영하는 소규모 얼굴 인식 기술업체다. 경찰 당국은 클리어뷰AI 시스템을 사용하여 흐릿하거나 부정확한 사진과 매칭하기 위해 사람들의 페이스북 사진을 이용하고 있었다.

클리어뷰AI는 거센 비난을 받았다. 버즈피드 뉴스(BuzzFeed News)의 후속 보도로 이 시스템은 자그마치 미국 2,200개의 법 집행 기관 뿐만 아니라 이민세관집행국, 법무부 및 메이시스(Macy’s), 월마트(Walmart) 등 유통업체도 사용 중임이 밝혀졌다.

조지타운대 프라이버시 및 기술 센터 정책 담당자 제임슨 스피바크(Jameson Spivack)는 “클리어뷰AI 사건으로 많은 사람들은 경악했다”고 주장했다. 우려는 대부분 그 분야가 얼마나 단편적인가에 초점을 맞추고 있다. IBM, 마이크로소프트 같은 대기업이 상당한 영향력을 행사하는 반면, 클리어뷰AI, 엔텍랩(NtechLab)처럼 공적 규제없이 운영되는 소규모 민간 기업도 많다. 이번 보도로 사람들은 정부가 이 기술을 얼마나 광범위하게 사용하는지에 대해 잘 모른다는 사실도 드러났다.

기폭제: 인종 차별 시위

관련 보도로 문제에 대한 인식이 높아졌다. 그러나 스피바크는 조지 플로이드(George Floyd) 사건으로 촉발된 흑인 생명 존중 운동이 얼굴 인식 사용 제한 법안의 ‘가장 큰 기폭제’로 작용했다고 주장한다. 미국인들은 갑자기 치안 유지와 관련 도구, 정책, 문화를 돌아보기 시작했다.

조이 부올람위니(Joy Buolamwini)와 팀닛 게브루(Timnit Gebru)가 2018년 얼굴 인식 제품의 인종 편견을 발견하고 문서화한 이후, 우려가 증폭되기 시작했다. 이로 인해 미국 여러 도시와 주는 경찰의 바디캠과 안면인식 사용을 금지하는 법안을 통과시키게 되었다.

그러나 미국 역사상 가장 큰 시위 기간 중 운동가들은 경찰의 감시 기술이 보복에 이용될 것을 우려했다. 그 후 최소 뉴욕, 마이애미, 워싱턴 DC에서는 경찰 당국이 시위대 감시를 목적으로 얼굴 인식을 사용했음이 확인되었다.

지난해 6월 1일, 워싱턴 DC에서는 경찰이 라파예트 광장에 모인 시위대 진압을 위해 최루탄을 사용했다. 근처 교회에서 트럼프 대통령 사진이 찍히기도 했다. 혼란스런 상황을 틈타 한 명이 경찰을 때렸다. 며칠 후 경찰은 트위터에서 그 남자의 사진을 발견하고, 얼굴 인식 시스템을 이용해 동일 인물임을 확인한 다음 체포했다. 마이애미에서도 시위 도중 경찰에게 돌을 던진 혐의를 받은 여성을 이 시스템으로 체포했다.

스피바크는 얼굴 인식 반대 운동가들이 미국시민자유연맹(ACLU: American Civil Liberties Union) 같은 지지 단체들이 이끄는 경찰 개혁 단체와 여름, 가을 내내 긴밀히 협력하는 것을 보았다. 오리건주 포틀랜드에서 시위대 중 한 명이 익명의 경찰을 식별하기 위해 얼굴 인식 시스템을 개발하기도 했다.

2020년이 지나면서, 경찰의 얼굴 인식 기술 사용을 제한하는 법안이 시, 주, 연방 차원에서까지 발의되었다. 지난 6월, 민주당 의원들은 연방 법 집행 기관의 얼굴 인식 기술 사용을 금지하는 법안을 도입했다. 버몬트주는 주지사의 행정 명령으로 정부의 얼굴 인식 기술 사용이 주 전반에 걸쳐 금지되었다. 매사추세츠주 캠브리지와 보스턴은 올 여름 사용 금지를 통과시켰고, 주 정부는 12월 법 집행을 포함하여 공공 기관의 얼굴 인식 사용 금지를 승인했다. 현재, 찰리 베이커(Charlie Baker) 주지사는 법안 서명을 거부하고 있다.

캘리포니아는 지난 5월에 주 전역 법안에 관한 자체적인 논의를 시작했고, 샌프란시스코와 오클랜드는 이미 법 집행 기관의 얼굴 인식 사용을 금지했다. 7월, 뉴욕시는 2022년까지 교내의 얼굴 인식 사용을 금지시켰다. 오리건 주 포틀랜드의 신규 시내 전역 금지령으로 공공 또는 민간 단체의 얼굴 인식 기술 사용이 금지된다.

디트로이트 사건이 보여주듯이, 이런 변화가 모든 곳에서 일어나는 것은 아니다. 스피바크는 인종간 권력 관계가 경찰 감시를 둘러싼 정치 싸움에 영향을 줄 수도 있다고 추측한다. 그는 또 이렇게 주장한다. “얼굴 인식을 최초로 금지한 도시를 보면, 항상 그렇지는 않지만 보통은 재정 상태가 좋으며, 백인 비율이 높고, 매우 진보적이다. 그리고 소외된 지역사회 보다 정치 자본도 더 많고, 국회의원에게 행사하는 영향력도 더 크다.”

국가적 전망?

그러나 모든 반응이 법안으로 이어지지는 않는다. 6월 초, IBM은 얼굴 인식 제품 판매를 중단했다고 밝혔다. 아마존과 마이크로소프트는 경찰 당국과 계약을 일시 중단함으로써 이 대열에 합류했다. 그리고 7월, 미국시민자유연맹은 일리노이 생체인식정보 프라이버시 보호법(Illinois Biometric Information Privacy Act)을 준수하지 않았다는 사유로 클리어뷰AI를 상대로 소송을 제기했다. 이는 전면적인 법적 이의가 제기된 최초의 사례이다.

마이크로소프트, 아마존, IBM 및 보안산업협회(Security Industry Association) 같은 산업 단체는 싸움을 준비하고 있다. 이 회사들은 2018년부터 2019년까지 얼굴 인식 관련 로비 활동을 대대적으로 늘렸고, 2020년 이후에는 훨씬 더 늘어날 것으로 예상된다. 많은 사람들은 규제 강화를 찬성하지만, 금지까지는 바라지 않는다. 아마존의 얼굴 인식 사용 금지는 6월에 해제될 예정이며, 마이크로소프트의 경우 연방법 제정에 따라 결정된다.

한편, 미국시민자유연맹은 얼굴 인식 기술 금지 법안을 계속 입안하고 있다. 연맹 홈페이지에는 “규제되지 않은 감시 기술과 관련하여 위험이 증가하는 상황에서, 당 연맹은 권리 보호를 위하여 법원, 거리, 입법기관, 시의회, 기업 이사회에 호소 중이다”고 되어 있다.

새 정부는 또한 2021년 이후부터 구체적인 규제 방안 마련에 우선순위를 둘 예정이다. 부통령 후보로서 카말라 해리스는 경찰 개혁안의 일환으로 법 집행 당국의 얼굴 인식 규제를 언급했다. 바이든 행정부가 연방법을 추진한다면 이 문제는 국가적 이슈가 될 가능성이 높으며, 결과적으로 적은 예산이 여러 지역에 분산될 것이다. 그러나 만약 정부차원에서 추진되지 않는다면, 주와 도시 차원에서 계속 진행될 것으로 전망된다.

미리보기 3회1회

MIT Technology Review 구독을 시작하시면 모든 기사를 제한 없이 이용할 수 있습니다.