We could see federal regulation on face recognition as early as next week

안면인식 기술 금지법안 곧 나오나?

아마존 등 빅테크 기업들은 안면인식용 프로그램을 미국 경찰에게 제공하지 않고 있다. 그런데 그 사용을 영구적으로 금지하는 법률안이 미국 의회에 발의되었다.

지난 5월 10일, 40개 단체들은 아마존에게 공개 서한을 보내 미국 경찰이 안면인식 소프트웨어 레코그니션(Rekognition)을 영구히 사용하지 못하도록 하라고 요구했다. 이 공개 서한은 아마존 CEO 제프 베조스(Jeff Bezos)와 후임자 앤디 제시(Andy Jassy)에게 전달되었다. 아마존은 이미 법 집행 기관에 1년 동안 안면인식 프로그램의 판매를 중단하겠다고 약속했었으나 그 기한이 만료되기 불과 몇 주 전에 영구적 금지를 요구하는 목소리가 나온 것이다.  

제프 베조스와 앤디 제시는 작년 여름 조지 플로이드(George Floyd) 사망으로 시작된 인종적 정의 시위에서 흑인 생명존중 운동(Black Lives Matter) 참여자들을 분명하게 지지했다. 그렇지만 LA 경찰 등 법 집행기관은 여전히 시위 참여자들의 신원을 확인하기 위해 아마존이 만든 다른 제품을 사용하고 있다는 보도가 나왔다. 이번에 발표된 공개 서한은 이처럼 일관적이지 않은 아마존의 태도를 문제 삼았다.

공개 서한을 받은 아마존은 안면인식 프로그램 판매의 중단을 무기한 연장하기로 결정했다고 5월 17일 발표했다. 이로써, 아마존은 경쟁 기업 IBM, 마이크로소프트와 함께 자율 규제라는 고난의 대열에 합류하게 되었다. 이러한 빅테크 기업들의 움직임은 안면인식 기술의 통제를 주장하는 단체들의 정치적 힘을 인정한 것이다. 또한, 안면인식 규제를 둘러싼 입법 전쟁이 시작되고 있는 흐름을 알아차린 결과라고 할 수 있다. 많은 사람들은 상당한 규제를 담은 연방 법률이 곧 제정될 것이라고 믿는다.

오류에 지친 사람들”

작년에는 안면인식 기술 규제와 관련하여 중요한 사건들이 있었다. 안면인식 기술의 오류 때문에 엉뚱한 사람이 체포되었고. 미국 내 24개 도시들과 7개의 주정부가 안면인식 기술의 사용을 금지하기로 결정했다. 그런데 이런 변화에는 얼마전부터 탄력이 붙고 있는 중이다.

2018년 IBM, 마이크로소프트, 메그비(Megvii)의 Face++가 개발한 상업용 안면인식 소프트웨어의 정확도를 비교 분석한 논문이 발표되었다. 연구 결과에 따르면, 안면인식 시스템은 피부색이 어두운 여성보다 피부가 밝은 남성을 훨씬 더 정확하게 식별했다. 특히 IBM 시스템이 기록한 유색 인종의 인식 오류율은 34.4%에 달했는데 다른 두 기업과 비교해서도 최악의 점수였다.

같은 해 미국시민자유연맹(ACLU)이 아마존 레코그니션 시스템을 테스트한 결과, 연방 의원 28명의 얼굴 사진을 보고 범죄자라고 오인하는 오류가 발견되었다. 특히 유색 인종에 대한 오류율은 더 높게 나타났다. 미국 연방 의회의 흑인 의원 모임(Congressional Black Caucus)이 그랬던 것처럼 ACLU도 아마존에게 공개 서한을 보내 안면인식 시스템을 정부에게 판매하지 말라고 요구하고 나섰다. 그때만해도 아마존은 변화를 거부하고 묵묵부답이었다.

“미국 형사 사법 시스템에서 인종적 정의를 개선할 수 있는 가장 간단하고 확실한 방법은 안면인식 기술의 사용을 멈추는 것이다.”

ACLU 케이트 루안(Kate Ruane)

그러나 작년 여름 경찰의 폭력에 항의하는 인종적 정의 시위가 널리 확산되자, 아마존은- 이민세관집행국(ICE) 등 연방법 집행기관을 제외하고 – 미국 경찰에게 아마존 레코그니션 제공을 중단하겠다고 발표했다. 이 결정은 많은 이들을 놀라게 만들었다. 그 때 아마존은 “레코그니션 사용의 일시적 중단으로 연방 의회가 적절한 규제안을 마련할 수 있는 충분한 시간을 갖기 바란다”고 말했었다.

안면인식 기술의 중단을 주장하는 시민단체 ‘미래를 위한 투쟁(Fight for the Future)’에서 활동하는 에반 그리어(Evan Greer)는 사람들이 안면인식 기술의 규제를 지지한다고 말했다. 그는 아마존이 발표한 사용중단 조치가 “아마존이 안면인식 문제뿐만 아니라 전반적으로 엄청난 압박에 직면했기 때문에 내놓은 반응”이라고 주장하며 이렇게 덧붙였다. “나는 이런 변화가 지난 1년 반 동안 지속된 인종적 정의를 위한 전국적 시위 덕분이라고 믿는다.”

정치 현실’

테크 대기업에 대한 압박이 더 커지고 있지만, 사실 대부분의 법 집행기관과 정부 기관은 아마존 같은 대기업이 만든 안면인식 소프트웨어를 쓰는 것이 아니다. 대기업의 안면인식 기술 사용 유예 및 금지 조치가 시민 단체들의 환영을 받고 있지만, 이런 조치로 인해 안면 인식 기술이 현장에서 추방되는 것은 아니라는 말이다. 한편, 연방 의회는 법 집행기관이나 정부 등 공공 영역 또는 상업적 영역에서 안면인식 기술의 사용을 금지하는 법률을 아직 통과시키지 않았다. 이 법안이 통과되어야 소규모 안면 인식 기술 기업까지 규제를 받게 된다.

하지만 연방 의회의 입법, 대통령 행정명령, 또는 예산지출 법안이나 경찰 개혁법안 등의 경로를 통해서 안면인식 기술 규제안이 곧 모습을 드러낼 것이라는 기대가 나오고 있다. ACLU의 변호사 케이트 루안은 “최상의 시나리오는 의회가 안면인식 기술의 사용을 유예하는 법안을 통과시키는 것”이라고 주장한다. 그녀는 관련 입법 작업이 보다 철저하게 이뤄진 후에야 안면 인식 기술 사용이 허용되어야 한다고 생각한다.

안면인식 기술의 사용을 제한하는 몇 건의 연방 법안들이 이미 발의되었다.

• 안면인식 및 생체인식기술 사용 유예 법안(Facial Recognition and Biometric Technology Moratorium Act)은 연방 정부기관들이 안면인식과 생체인식용 소프트웨어를 사용하지 못하도록 금지한다. 또한, 자체적으로 사용 유예 규정을 마련하지 않은 주 정부와 지방정부에게는 연방 보조금의 지급을 보류한다. 이 법안은 지난해 연방 상원에서 발의되었는데 민주당 의원 4명이 제안했다.

• 경찰 정의를 위한 조지 플로이드 법안(George Floyd Justice in Policing Act)은 경찰관의 바디캠에 안면인식 기술을 사용하지 못하도록 금지한다. 이 법안은 이미 하원을 통과했고 상원에서 심의될 예정이다. 바이든 대통령은 조지 플로이드가 사망했던 5월 25일 이전에 통과를 요청했다.

• 수정헌법 제4조 보장 법안(Fourth Amendment Is Not For Sale Act)은 상원 의원 18명이 발의한 초당적 법안이다. 이 법안은, 정부가 서비스 조건을 위반한 기술 제공업체와 협력하지 못하도록 제한한다. 만일 정부기관이 브로커로부터 시민들의 데이터를 구매하면 수정 헌법 제4조에 규정된 영장주의 요건을 위반하게 되므로 금지하겠다는 입법취지를 가지고 있다. 실제로 이 법안은 얼굴 사진만 있으면 온라인에서 그 인물의 다른 사진들을 찾아주는 클리어뷰 AI(Clearview AI) 같은 웹 수집 시스템을 정부가 이용하지 못하도록 제한할 수 있을 것으로 예상된다.

기술 분야의 인종적 정의를 추구하는 ‘사람을 위한 인공지능(AI for the People)’의 무탈레 엔콘데(Mutale Nkonde)는 내년으로 예정된 중간선거까지 연방 법률안이 더 발의될 가능성이 크다고 생각한다.

엔콘데는 “안면인식을 포함한 모든 알고리즘 시스템을 규제하는 연방 법률이 마련될 것으로 본다. 규제는 이미 정치 현실이 되었다”라고 말한다. 그는 민권의 보장을 기준으로 기술 시스템을 평가하는 ‘영향 평가(Impact Assessment)’ 개념이 양 당의 정책 입안자들 사이에서 관심을 얻고 있다고 말한다.

한편, ACLU는 바이든 행정부가 행정명령을 내려야 한다고 로비를 펼치고 있다. 최근 ACLU는 40개 단체들과 미국 정부가 안면인식 기술의 사용을 즉각 금지해야 한다고 주장하는 공개 서한을 발표했다. 루안은 “인종적 정의를 실현하고 형사사법 시스템에서 인종적 평등을 개선하려면 안면인식 기술의 사용을 끝내는 것이 가장 간명하고 확실한 방법이다”라고 말한다.

사람들은 더 많은 개혁을 바란다”

반면, 루안은 빅테크 기업들의 자율 규제도 안면인식 사용의 확대를 막는 가장 효과적 방법 중 하나라고 생각한다. 미국 주택부, 국토안보부, 교육부 등 연방 정부기관들이 안면인식 기술의 사용 금지와 관련한 규정을 마련할 것이라는 예상은 타당해 보인다.

엔콘데는 안면인식 기술의 일시적 사용 중단을 넘어 안면 인식을 영구적으로 금지하는 법률로 확장될 가능성이 크다고 기대한다. “안면인식 기술의 일시적 사용 중단은 조지 플로이드가 죽기 전에도 가능했었다. 이제 사람들은 더 많은 개혁을 바란다.”

그러나 그리어는 유색인종의 신원도 잘 식별하도록 정확성만을 강조하는 법안은 더 심각한 문제를 해결하지 못할 수 있다고 우려한다. 그녀는 “만일 정책입안자들이 정확성을 안면인식 기술의 유일한 문제로 여기고 해결하려 든다면 실수”라고 지적한다. “안면인식 시스템을 판매하려면, 모든 인종과 피부 색깔과 무관하게 99%의 정확도를 갖추어야 한다는 규제가 나온다면 기술업계는 실제로는 크게 기뻐할 것이다.”

그리어는 또한 이렇게 덧붙였다. “안면인식 시스템의 편향성이 논의되기 이전에도 미국의 치안 시스템은 이미 유색 인종에게 불리하게 편향적으로 집행되어 왔다. 그런데 이 문제는 안면인식 기술 때문에 더 악화될 수 있다.”

미리보기 3회1회

MIT Technology Review 구독을 시작하시면 모든 기사를 제한 없이 이용할 수 있습니다.