인공지능(AI)은 점점 더 우리 생활 전반에서 떼어놓을 수 없는 존재가 되고 있다. 웹 검색에서부터 소셜 미디어, 알렉사(Alexa)와 같은 홈어시스턴트에 이르기까지 어디에나 존재하고 있다. 그러나 이렇게 중요한 기술이 의도하지는 않았지만, 근본적으로 편견에 사로잡혀 있다면? 그리고 이토록 영향력이 큰 분야에 종사하는 흑인 연구원이 거의 없다면? 지난 여름 마이크로소프트(Microsoft)의 ‘인공지능의 공정성, 신뢰성, 투명성, 윤리성 (Fairness, Accountability, Transparency, and Ethics in AI group, 이하 “FATE”)’ 팀에 합류한 팀닛 게브루(Timnit Gebru)가 이 문제에 답해본다. 게브루는 2017년 ‘신경정보처리시스템 학회 (Neural Information Processing Systems, 이하 “NIPS”)’에서 ‘블랙 인 에이-아이(Black in AI, 이하 “BAI”)’ 이벤트를 공동 개최했다. NIPS는 세계최고의 권위를 인정받고 있는 인공지능 컨퍼런스이다. 또한, 2월에 개최된 ‘공정성과 투명성 컨퍼런스(Fairness and Transparency conference)’ 운영위원회에 속한 바 있다. MIT 테크놀로지 리뷰는 편향성이 어떻게 인공지능 시스템에 침투했는지, 다양성이 어떻게 이에 대응할 수 있는지에 대해 그녀의 이야기를 들어 보았다. 

다양성의 부재가 인공지능을, 특히 컴퓨터 비전(computer vision)을 어떻게 왜곡하는지?