The NYPD used a controversial facial recognition tool. Here’s what you need to know.

뉴욕 경찰의 수상한 안면 인식 기술 사용

새로 공개된 정보에 따르면, 뉴욕 경찰은 논란이 많은 클리어뷰 AI 안면인식 시스템을 자주 사용해온 것으로 나타났다. 또한, 이에 대해 거짓 진술을 했던 것으로 밝혀졌다.

최근 클리어뷰 AI는 바쁜 시기를 보내고 있다. 클리어뷰 AI는 논란이 많은 안면인식 기술 업체로, 온라인에서 스크랩한 30억 장의 사진을 이용하여 얼굴 검색 엔진을 제공한다. 4월 6일, 버즈피드 뉴스(Buzzfeed News)는 1,800개 이상의 기관이 클리어뷰 AI 앱을 사용했다고 밝혔다. 여기에는 주 및 지방 경찰과, 보건 시스템 및 공립 학교 등 세금으로 운영되는 기관이 포함된다. 이 기관 중 상당수는 안면인식 기술을 시험 삼아 이용했을 뿐 회사와 정식 계약을 체결한 것은 아니라고 해명했다.

그러나 그 전날 비영리 뉴스 사이트인 먹락(Muckrock)은 뉴욕 경찰국과 클리어뷰 AI가 주고 받은 이메일을 공개했고, 바로 그 때 클리어뷰 AI 제품 ‘시험 사용’이라는 의미가 과연 무엇인지 밝혀졌다. 법률구조협회(Legal Aid Society)와 저널리스트 레이첼 리차즈(Rachel Richards)의 정보 공개 청구 요청을 통해 확보한 메일을 보면, 뉴욕 경찰과 클리어뷰 AI가 2년 동안 우호적인 관계였음이 드러난다. 이 기간 동안, 뉴욕 경찰은 안면인식 기술을 수 차례 테스트했고, 실제 수사에 활용했다.

앞서 뉴욕 경찰은 클리어뷰 AI와의 관계와 안면인식 기술 사용에 대해서 축소 발표한 적이 있다. 그러나 이번에 공개된 정보는 양측의 관계가 상당히 진전됐음을 시사한다. 많은 경찰관들이 안면인식 앱으로 대대적인 검색을 실시했고 실제 수사에도 활용한 것으로 드러났다. 뉴욕 경찰은 클리어뷰 AI로 5,100건 이상을 검색했다.

이 앱은 다음과 같은 이유로 문제가 된다. 명시된 제도에 따르면, 뉴욕 경찰은 안면인식 시스템이 참고할 수 있는 무감독(Unsupervised) 사진 저장소 설치를 제한하고 있다. 또한, 특정 팀만 안면인식 기술을 사용할 수 있도록 제한한다. 그러나 이번 뉴욕경찰의 클리어뷰 AI 이용은 이 두 가지 정책을 모두 비껴간 것으로 보인다. 공개된 이메일을 보면, 뉴욕 경찰국은 안면인식팀 외 여러 직원에게도 이 시스템을 이용하도록 해주었다는 것을 알 수 있다. 안면인식 시스템은 소셜 미디어에서 긁어 모은 사진으로 대규모 도서관처럼 운영된다. 이메일은 또한 뉴욕 경찰 직원들이 정책을 위반하고 개인 기기로 앱을 다운받아서, 안면인식이라는 강력하고 편향된 기술을 아무렇지도 않게 사용했음을 보여준다.

클리어뷰 AI는 강력한 신경망을 가동하여 얼굴 사진을 처리한다. 그런 다음 대용량 사진 데이터베이스와 비교를 통해 측정이 정확하고 대칭이 맞는지 확인하여 목표물과 일치할 만한 사진을 제시한다. 이 기술이 얼마나 정확한지는 확실하지 않지만, 경찰서와 정부기관에서 많이 사용되고 있다. 클리어뷰 AI는 개인 식별 가능 정보 활용, 인터넷 사진 무단 도용으로 인한 개인정보 침해, 안면인식 기술 이용 고객 확보 등으로 거센 비난을 받았다.

이메일은 2018년 10월부터 2020년 2월까지 오고 갔으며, 호안 톤 탓(Hoan Ton-That) 클리어뷰 AI CEO가 크리스 플래너건(Chris Flanagan) 뉴욕 경찰청 부조사관에게 소개하면서부터 시작되었다. 초반 몇 차례 회의를 거쳐 클리어뷰 AI는 2018년 12월 뉴욕 경찰청과 시범적으로 벤더 계약을 체결했고, 이 계약은 이듬해 3월까지 지속되었다.

이메일에 따르면, 이 시기 전후로 뉴욕 경찰 고위직부터 하위직까지 다수가 클리어뷰 AI를 이용했음이 드러났다. 주고 받은 이메일에서 클리어뷰 AI는 서비스를 많이 이용해 달라고 계속 부탁했다. (“검색 수 100개 달성”이라는 교육 지침으로 경찰관들을 재촉하기도 했다) 이메일을 보면, 뉴욕 경찰국 직원의 시험 계정이 2020년 2월까지 생성되었음을 알 수 있다. 이 시기는 시험 사용 기간이 끝났다고 한 지 거의 1년이 지난 시기이다. 

우리는 이메일을 검토하고, 이에 대해 감시 및 법률 분야 최고 전문가들과 의견을 나눴다. 아래 내용에 주목할 필요가 있다.

뉴욕 경찰은 클리어뷰 AI와의 관계 및 안면인식 기술 사용에 대해 거짓 진술을 했다.

뉴욕 경찰은 앞서 버즈피드뉴스와 뉴욕포스트에 ‘공식적으로든 비공식적으로든’ 클리어뷰 AI와 “제도적 관계가 없다”고 밝힌 바 있다. 뉴욕 경찰국은 클리어뷰 AI를 시험 삼아 테스트했다고 주장했다. 그러나 이메일을 보면, 수많은 경찰관들이 지속적으로 이 기술을 사용했으며, 실제 수사에서 대대적인 검색을 실시했음이 드러났다.

어떤 메일을 보면 뉴욕경찰 안면인식팀 소속 형사는 “앱이 잘 작동된다”고 썼다. 또 어떤 메일에서는 신원도용대응팀 직원이 “검색 결과가 좋다”면서 “체포하러 갔다”고 밝혔다. (아래 이미지에서 직원 이름과 이메일 주소를 삭제했다. 기타 개인 정보도 원본에서 삭제했다.)

뉴욕 시에서 경찰의 안면인식 기술 사용 금지를 주장하는 비영리단체 ‘감시 기술 감독 프로젝트(STOP, Surveillance Technology Oversight Project)’의 앨버트 폭스 칸(Albert Fox Cahn) 전무는 다음과 같이 주장했다. 이 이메일은 클리어뷰 AI 앱 사용에 대한 뉴욕 경찰의 이전 입장 발표와 정면 배치된다.

그는 “경찰들이 클리어뷰 AI 계정을 사용하는 패턴이 있다. 몇 주나 몇 개월이 아니라 몇 년 동안 사용한다”라고 말한다. “뉴욕 경찰청 안면인식팀을 포함하여 최고위급 관리들과 회의를 했다는 증거가 있다. 경찰 몇 명이 임시 계정을 얻으려고 한 것이 아니었다. 뉴욕 경찰이 조직적으로 클리어뷰 AI 안면인식 기술을 도입해 뉴욕 시민을 타겟으로 삼은 것이었다.”

최근 통과된 법에 따라 뉴욕 경찰은 안면인식 기술 사용에 대해 다음과 같이 설명하기도 했다. “수사관들은 조사 중 얻은 사진을 뉴욕 경찰 통제 하에 이미 보유하고 있던 제한된 개수의 사진과 비교한다.” 클리어뷰 AI는 온라인에서 30억 장 이상의 사진을 스크랩하여 데이터베이스로 만든 것으로 유명하다.

뉴욕 경찰은 이민세관단속국(ICE, Immigration and Customs Enforcement)과 긴밀히 협조하고 있으며, 경찰들은 ICE에 클리어뷰 AI를 소개했다.

이 문서에는 클리어뷰 AI가 국토안보부에 자사의 기술을 판매하는 데 참고로 쓴 것으로 보이는 뉴욕 경찰의 이메일이 여럿 포함되어 있다. 경찰 2명은 뉴욕 경찰과 국토안보부 소속으로 이메일에 서명했다. 또 다른 경찰관은 국토안보부 태스크포스 소속으로 밝혀졌다.

연락, 데이터 공유, 불법 기술 사용이 너무 많은 것 같다.”

뉴욕은 이민자 보호 도시(Sanctuary City)로 지정되어 있어서, 현지 법 집행기관이 연방 이민국과의 협력을 제한하고 있다. 실제로 뉴욕 경찰국 안면인식 정책은 다음과 같이 명시하고 있다. “이민 집행 촉진을 위해서 정보를 공유하지 않는다. 이민 집행을 확대할 목적으로 타 기관에 정보를 제공하지 않는다.”

전자 프런티어 재단(Electronic Frontier Foundation)의 매튜 과리질리아(Matthew Guariglia) 애널리스트는 이렇게 말했다. “현지 경찰, 연방 법 집행기관, 이민세관단속국 간의 상호 작용, 감시, 데이터 공유 환경이 규칙도 없고 규제도 없다는 점은 큰 문제라고 할 수 있다. 연락, 데이터 공유, 불법 기술 사용이 너무 많은 것 같다.”

칸 전무는 특히 대규모 법 집행 관련 정보가 융합 센터(Fusion Center)라는 중앙 시스템을 통해 흘러 들어오기 때문에, 이메일 건은 즉각적인 우려를 자아낸다고 했다.

“뉴욕이 이민자 보호 도시가 됐으면 좋겠다고 주장할 수는 있다. 그렇지만, 국토안보부 태스크포스가 존재하는 한, 국토안보부와 실시간으로 데이터 교환을 허용하는 정보 융합 센터가 유지되는 한, 약속은 곧 거짓말이 된다.”

많은 경찰이 개인 기기나 이메일 계정을 통해 클리어뷰 AI 앱 다운로드를 요청했다.

최소 4명의 경찰이 개인 기기나 이메일을 통해 클리어뷰 AI 앱 접속을 요청했다. 경찰청 기기는 집중 감시되고 있으며, 뉴욕 경찰 공식 휴대폰으로 애플리케이션을 다운받는 것은 쉬운 일이 아니다. 경찰 전화가 너무 제한이 많을 경우, 개인 기기를 사용하기로 한 경찰관도 있었다.

클리어뷰 AI는 이 이메일에 “안녕하세요. 잠시 후, 받은 편지함에 설치 안내 메일이 도착할 예정입니다”라고 답메일을 보냈다.

조나단 맥코이(Jonathan McCoy)는 법률구조협회의 디지털 포렌식 분야 변호사이며 정보 자유 요청에 참여했다. 그는 개인 기기 사용이 특히 문제라는 것을 알았다. “뉴욕 경찰 정책과 절차에 의거하면, 안면인식 기술 사용 시 안면인식팀을 거쳐야 하고, 뉴욕 경찰국이 이미 승인한 기술을 사용해야 한다. 그런데, 개인기기를 이용하여 이 방침을 적극 회피하고 있었다는 점이 문제다.” 뉴욕 경찰은 이미 데이터웍스(Dataworks)라는 회사가 제공하는 안면인식 시스템을 갖추고 있다.

과리질리아는 뉴욕 경찰국과 클리어뷰 AI의 신중하지 못한 태도를 지적한다. 그는 “경찰관들이 개인 기기로 다운받은 앱을 사용하여, 체포나 공식 수사로 이어질 지 모르는 사람을 찾는다고 생각하니 끔찍하다”고 전했다.

메일 공개와 관련된 우려는 이론으로 그치지 않는다. 경찰은 법정에 설 수 있고 절차 미이행으로 사건이 번복될 수도 있다. 맥코이 변호사는 법률구조협회가 이메일을 증거로 고객 변호에 나설 예정이라고 밝혔다. 여기서 고객은 안면인식 기술을 이용한 수사 결과 체포된 사람들을 의미한다.

맥코이 변호사는 다음과 같이 주장한다. “안면인식 기술 사용으로 얻은 유죄 판결이 뉴욕 경찰국의 정책 및 절차에 부합하지 않는 방식으로 이뤄졌다고 밝힐 근거가 있었으면 좋겠다. 클리어뷰 앱은 검증되지 않고 신뢰할 수 없는 기술이므로, 고객의 권리를 침해한다고 주장할 수 있다.”

미리보기 3회1회

MIT Technology Review 구독을 시작하시면 모든 기사를 제한 없이 이용할 수 있습니다.