1년 전, 2020년에 어떤 일들이 생길지 전혀 알지 못한 채 기자는 당시 AI 커뮤니티가 처했던 결정적 순간들을 되돌아 보는 기사를 쓴 적 있다. 한해 전인 2018년에는 자율주행 차량 충돌 사고, 차별적 채용 관리 도구 등 굵직한 자동화 실패 사례가 여러 건 있었다. 이에 따라 2019년에는 그 어느 때보다도 AI가 화두가 되었다. 그러나 아직 갈 길이 멀다. 구체적 조치를 취할 필요가 있었다. 두 달 후, 코로나 바이러스로 온 세상은 셧다운 상태에 들어갔다.

사회적 거리두기와 모든 것이 원격으로 수행되는 유례 없는 현실 속에서, 알고리즘으로 인한 피해(Algorithmic Harm)와 관련된 논의가 활발해졌다. 하이어뷰(HireVue)의 얼굴 스캐닝 알고리즘과 작업장 감시 도구 같은 시스템은 어느덧 주류가 되어 갔다. 학생들을 관리하고 평가하는 도구가 실시간으로 작동 중이었다. 지난 8월, 대입 시험을 앞두고 영국 정부의 알고리즘 기반 평가가 대참사로 끝나자, 수백 명의 학생들이 런던에 모여 “알고리즘 꺼져라”를 외쳤다. 몇 달 후 스탠포드대학 시위대 중 한 명이 다른 사건 때문에 또 이 구호를 외쳤을 때, ‘설명가능한 AI’를 연구하는 뎁 라지(Deb Raji)는 “이 구호는 2020년의 슬로건”이라는 트윗을 올렸다.