2020년 1월, 미국에서 얼굴 인식 기술 오류로 부당하게 체포된 최초 사례가 발생했다. 흑인 로버트 윌리엄스는 디트로이트 외곽 도로에서 아내와 어린 딸이 지켜보는 가운데 체포되었다. 윌리엄스는 유치장에서 하룻밤을 보냈다. 다음날 조사실에서 형사는 시계 매장 CCTV에 찍힌 흑인 사진을 건넸다.

“본인 맞아요?” 형사가 물었다.
“아니요. 저 아닌데요” 윌리엄스가 답했다.
형사는 다른 사진을 보여주었다. “이 사진도 아닌 것 같은데?”
윌리엄스는 사진을 얼굴 옆에 댔다. 분명히 윌리엄스가 아니었다. 윌리엄스는 “이 사진은 제가 아닙니다. 흑인이면 다 똑같다고 생각하는 건 아니겠지요”라고 말했다.
“컴퓨터가 맞대요” 형사가 대답했다.

로버트 윌리엄스 체포 사건에서 주목할 점은 체포가 발생했다거나 실수였다는 것이 아니다. 얼굴 인식 기술은 피부색이 어두운 사람의 경우 정확성이 떨어진다고 알려져 있다. 이 기술이 얼마나 많이 사용되는지에 대해 믿을만한 자료는 없지만, 미국 경찰에서 널리 쓰이고 있다. 윌리엄스 사건에서 경찰은 얼굴 인식 기술을 사용했다는 것을 시인했다.

이 사건은 2020년 8월 초에 알려졌는데, 미국에서 경찰이 흑인들을 대하는 방식에 항의하는 여름의 시위 사태와 맞물려 전국적 분노를 불러 일으켰다. 몇 주 후, 얼굴 인식 기술 오류로 디트로이트에서 흑인이 또 잘못 체포되는 사건이 발생했다.