The new lawsuit that shows facial recognition is officially a civil rights issue

인권문제로 확장된 안면인식 소송

안면인식 기술 오류로 부당 체포된 로버트 윌리엄스는 이 기술 사용 금지를 촉구하고 있다.

2020년 1월 9일, 디트로이트 경찰은 파밍턴 힐 교외에서 아내와 어린 딸들이 보는 가운데 로버트 윌리엄스를 체포했다. 흑인 남성인 윌리엄스는 명품 매장에서 시계를 훔친 혐의로 기소되었다. 그는 유치장에서 하룻밤을 보냈다.

심문 중, 형사는 윌리엄스에게 용의자 사진을 보여주었다. 미국시민자유연맹에 밝혔듯이, 윌리엄스는 형사 주장이 틀렸다고 했다. 윌리엄스는 “제가 아닌데요. 흑인이면 다 똑같이 생겼다고 생각하는 건 아니겠지요”라고 말했다. 형사는 “컴퓨터가 맞다고 합니다”라고 대답했다.

윌리엄스의 부당 체포는 2020년 8월 뉴욕타임스가 최초 보도하였으며, 디트로이트 경찰국의 안면인식 시스템 오류로 벌어진 사건이었다. 이후 두 건의 부당 체포가 추가로 밝혀졌다. 두 명 다 흑인이었고, 양 당사자는 법적 조치에 들어갔다.

윌리엄스는 지금 그들과 같은 길을 걷고 있다. 자신의 불법 체포에 대해 디트로이트 경찰국을 고소했고, 안면인식 기술 사용 금지를 위해 노력하고 있다.

지난 화요일, 미국시민자유연맹과 미시간대(University of Michigan) 로스쿨의 민권 소송 이니셔티브(Civil Rights Litigation Initiative)는 윌리엄스를 대신하여 소송을 제기하였다. 체포 행위가 미국 수정헌법 제4조(Fourth Amendment) 및 미시간 주의 민권법을 위반했다는 주장이었다.

이 소송은 피해 보상, 안면인식 기술 사용에 대한 투명성 확대, 직간접 여부를 막론하고 디트로이트 경찰국의 안면인식 기술 사용 중단을 촉구한다.

소송 내용

화요일 제출된 서류에는 사건 개요가 정리되어 있다. 2019년 3월, 디트로이트 경찰국은 데이터웍스 플러스(DataWorks Plus)라는 회사가 개발한 안면인식 시스템에 CCTV 속 빨간 모자를 쓴 흑인의 흐릿한 사진을 넣고 돌렸다. 그러자 용의자 사진과 나이가 좀 있어 보이는 윌리엄스의 운전 면허증 사진이 일치한다는 결과가 나왔다. 그 후 수사관들은 윌리엄스를 용의선상에 올렸고, 시계 매장 보안 담당자(도난 사건 당시 현장에 없었음)는 윌리엄스를 절도범으로 지목했다. 형사들은 경찰국 고위층의 서명이 필요한 영장을 발부 받아 윌리엄스를 체포했다.

소장에 따르면, 윌리엄스 부당 체포는 안면인식 시스템 오류가 직접적인 원인으로 작용했다. 또한, “부당 체포 및 수감은 안면인식 기술을 잘못 사용하고 의존할 경우, 중대한 피해를 미칠 수 있음을 시사한다.”

이 사건에는 4가지 논점이 담겨 있다. 이 중 세 가지는 체포 사유 부족에 초점을 맞추고 있고, 한 가지는 안면인식 시스템의 인종차별에 중점을 둔다. 소장에는 다음과 같이 기술되어 있다. “다른 집단 보다 흑인에게 훨씬 오류율이 높은 기술을 채택함으로써, 디트로이트 경찰국은 윌리엄스가 인종이나 피부색 때문에 당 경찰국의 서비스, 특권, 장점을 완전히 동등하게 누릴 수 있는 권리를 박탈했다.”

안면인식 기술은 피부색이 어두운 사람을 식별하는데 어려움이 있다는 자료가 많다. 2020년 미니애폴리스에서 조지 플로이드(George Floyd) 사망 사건이 발생한 이후, 일부 도시와 주는 경찰의 안면인식 기술 사용을 금지하고 중지시키겠다고 발표했다. 그러나 확산되는 우려에도 불구하고, 디트로이트를 포함한 여러 도시는 안면인식 기술을 계속 사용했다.

질적으로 보통도 안되는 사진에 의존”

작년 MIT 테크놀로지 리뷰는 윌리엄스의 법률 대리인 미국시민자유연맹 필 메이어(Phil Mayor) 변호사와 이야기를 나눴다. 메이어 변호사는 미국 사법기관 내부의 인종차별 문제로 안면인식 기술 사용이 더 우려된다고 강조했다. 

메이어 변호사는 “이것은 단 한 명에게만 국한되는 상황이 아니다”라고 주장했다. “특히 유색인종과 관련하여, 현재 형사법적 시스템은 기소는 매우 빠르고, 인권보호는 매우 더딘 상황이다.”

디트로이트 이코노믹 에쿼티 프랙티스(Economic Equity Practice)의 에릭 윌리엄스(Eric Williams) 선임 변호사는 카메라에 기술적 한계가 많다고 주장한다. 특히, 카메라는 피부톤을 인식하는 색상 범위가 하드 코딩(Hard-coding)되어 있어서 검은색 피부를 인지하지 못하는 경우가 많다.

이 나라에 사는 모든 흑인은 사진 찍혀 본 경험이 있을 것이다. 사진은 더 밝게도 나오고 더 어둡게도 나온다.”

미시간 미국시민자유연맹(ACLU of Michigan) 변호사협회 회원이지만, 로버트 윌리엄스 소송건에 참여하지 않고 있는 에릭 윌리엄스 변호사는 다음과 같이 주장했다. “이 나라에 사는 모든 흑인은 사진 찍혀 본 경험이 있을 것이다. 사진은 더 밝게도 나오고 더 어둡게도 나온다. 조명은 사진에서 아주 중요한 요소이다. 그래서 법 집행 기관이 질적으로 정말 보통도 안되는 사진 이미지에 의존하는 것은 문제가 있다.” 

인종을 기반으로 편향된 알고리즘과 인공지능 기술에 도전한 사례가 있었다. 예를 들면, 페이스북은 인종, 성별, 종교 기반 광고를 제공하는 표적 광고 알고리즘을 운영하는 것으로 드러나 대대적인 시민권 위반 조사를 받았다. 유튜브는 자사 AI 시스템이 사용자를 프로파일링하고, 인종을 기반으로 콘텐츠를 검열하거나 차별한다는 이유로 흑인 크리에이터들에게 집단소송을 당했다. 유튜브는 또한 콘텐츠 조정 시스템이 ‘게이’와 ‘레즈비언’이라는 단어를 플래그 지정했다는 사유로 성소수자(LGBTQ+) 크리에이터들에게 고소를 당했다.

일부 전문가들은 경찰 등 주요 기관의 편향된 기술 사용이 언젠가 법적 도전을 받을지도 모른다는 것은 사실상 시간 문제였다고 주장한다.

전자 프런티어 재단(Electronic Frontier Foundation)의 아담 슈워츠(Adam Schwartz) 선임 변호사는 이렇게 주장한다. “정부가 안면인식 기술을 사용하는 것은 분명히 유색인종에게 차별적인 영향을 끼친다. 많은 연구를 보면, 이 위험한 기술은 백인에 비해 유색인종의 경우 오류율이 훨씬 더 높다는 것을 알 수 있다. 따라서 이 기술을 사용하면, 정부는 차별을 유발할 수 관행을 채택할 수 없다는 법을 위반하게 된다.” 

메이어 변호사는 힘겨운 싸움을 예상하고 있었다. 그는 지난해 본지에 “디트로이트 경찰국은 안면인식 기술이 ‘훌륭한 수사 도구’라고 계속 주장할 것이다”라고 전했다.

메이어 변호사는 “윌리엄스 사건을 보면 그렇지 않다는 것을 알 수 있다. 전혀 훌륭하지 않다. 수사 도구로 이용할 경우, 사람에게 피해를 준다”고 밝혔다.

카메라 렌즈 속에서

로렌스 가르시아(Lawrence Garcia) 디트로이트 시 변호사는 성명을 통해 “디트로이트 시는 이번 사건에 대해 ‘해결책 마련’을 목표로 하고 있지만, 안면인식 기술은 잘못이 없다”고 주장했다.

또한, 가르시아 변호사는 다음과 같은 주장을 폈다. “경찰서장이 밝혔듯이, 윌리엄스 체포 사건은 기술적 결함이 문제가 아니라 부실 수사가 원인이다. 디트로이트 경찰국은 내사를 벌였고, 일부 직원과 관련된 직권남용 혐의를 포착했다. 디트로이트 경찰 당국은 유사 문제 재발 방지를 위해 새로운 프로토콜을 도입했다.”

윌리엄스 소송은 미국 내 인종과 치안 이슈에 있어서 중요한 시기에 열린다. 이 사건은 지난 5월 미니애폴리스에서 조지 플로이드 살해 혐의로 기소된 데릭 쇼빈(Derek Chauvin) 재판에서 변호인단이 변론을 시작하는 때에 제기되었다. 또한, 이 날은 미네소타 브루클린 센터 인근에서 발생한 단테 라이트(Daunte Wright) 총격 사건과 관련하여 시위가 시작된 지 사흘째 되던 날이기도 하다. 20세의 흑인 남성인 라이트는 차량 검문을 위해 차를 세웠고 영장에 따라 체포되었다. 그러나 테이저건을 꺼내려다 실수로 권총을 꺼내 든 킴 포터(Kim Potter) 경찰관이 쏜 총에 맞아 숨졌다. 

에릭 윌리엄스는 이렇게 경찰의 실수가 많은 상황에서 안면인식 기술에 대해 정확히 파악하는 것은 매우 중요하다고 지적한다.

“디트로이트 경찰국이 이 기술을 사용하기로 했을 때… 윌리엄스가 구금되기 전에도, 안면인식 기술은 피부가 검은 사람을 식별하기 어려운 것으로 알려져 있었다. 그럼에도 불구하고, 디트로이트 경찰은 80% 이상이 흑인인 도시에서 이 기술을 사용하기로 한 것이다.”

“사람들은 백인에 비해 흑인의 생명, 생계, 자유에는 가치를 거의 두지 않는다. 지금 미국에서는 매우 흔한 일이다.”

제니퍼 스트롱(Jennifer Strong)이 이 기사의 작성에 도움을 주었다.

미리보기 3회1회

MIT Technology Review 구독을 시작하시면 모든 기사를 제한 없이 이용할 수 있습니다.