최근 AI(인공지능)에 대한 소식들로 세간이 떠들썩하다. 미국 정부는 AI 시스템의 안전과 보안, 신뢰를 개선하기 위한 새로운 행정명령을 발표했다. 필자는 동료 기자인 테이트 라이언-모슬리(Tate Ryan-Mosley)와 함께 미국 역사상 가장 포괄적인 이번 AI 규제에 대해 알아야 할 세 가지를 정리했다. 

G7 국가들은 AI 시스템으로 인한 문제와 위험을 최대한 줄이고자 노력하고 있으며 최근 AI 회사가 준수해야 하는 (자발적) 행동강령에 합의했다. 영국에서도 세계적인 AI 안전 규정을 마련하기 위해 정부 차원에서 주최한 AI 안전 서밋(AI Safety Summit)에 관련 인사들이 대거 참여했다. 

이러한 사건들은 실리콘밸리가 주장하는 AI에 의한 ‘실존적 위험(existential risk)’에 대한 서사가 지배적 화두로 자리잡고 있는 상황을 보여준다. 

이는 실로 우려되는 상황인데, 미래에 발생할 수 있는 가상의 문제에 집중함으로써 현재 AI로 인해 발생하고 있는 실질적 문제를 간과할 수 있기 때문이다. 저명한 AI 연구자이자 운동가인 조이 부올람위니(Joy Buolamwini)는 그녀의 새로운 회고록 《AI의 가면을 벗기다: 인간을 기계로부터 보호하는 나의 사명(Unmasking AI: My Mission to Protect What Is Human in a World of Machines)》에서 “가상의 ‘의식을 가진’ AI 시스템보다 이미 문제가 증명된 기존의 AI 시스템이 더 위험하다”라고 썼다. 회고록에 나타난 그녀의 생각에 대해 더 알고 싶다면 이 기사를 참고하라. 

필자는 얼마 전 부올람위니를 만나 그녀의 인생과 오늘날 AI의 문제점에 관해 이야기를 나누며 즐거운 시간을 보냈다. 그녀는 이 분야에서 강력한 영향력을 가진 인물이다. 안면인식 시스템의 편향성을 다룬 그녀의 연구는 IBM, 구글, 마이크로소프트 같은 회사들이 시스템을 개선하고 법 집행기관을 대상으로 한 판매를 중단하는 결과를 가져왔다. 

이제 부올람위니는 새로운 목표를 세웠다. 그녀는 AI 시스템을 개발하는 과정에서 데이터를 수집하는 관행이 윤리적이고 합의에 기반하고 있는지 근본적으로 다시 살펴봐야 한다고 생각한다. “우리는 너무 많은 회사에 면죄부를 주고 있으며, 그들의 혁신성에 박수를 보내지만 정작 문제는 외면하고 있다”라고 그녀는 지적했다. 더 자세한 내용이 궁금하다면 부올람위니와의 인터뷰 기사를 확인해 보기 바란다.  

부올람위니의 이야기는 여러 가지로 영감을 주지만 동시에 경고를 전한다. 그녀는 지난 10년 동안 AI의 문제점을 지적하고 대중의 인식을 개선하기 위해 많은 일을 해 왔다. 놀라운 사실은 그녀가 이로 인해 많은 대가를 치렀다는 것이다. 회고록에서 그녀는 다양한 활동을 추진하고, 비영리 기구인 알고리즘 저스티스 리그(Algorithmic Justice League)를 창립하고, 의회의 청문회에 참석하고, MIT에서 박사 학위 논문을 준비하는 등 너무 많은 일을 한꺼번에 처리하려다 심하게 탈진해 응급실에 입원했다고 언급했다. 

사실 이 문제는 부올람위니에 국한되지 않는다. 그녀의 경험은 필자가 1년 전에 쓴 ‘번아웃’에 시달리는 AI 윤리학자들에 대한 내용과 일맥상통하는 면이 있다. 

부올람위니와 같은 연구자들 덕분에 테크 회사들의 AI 시스템을 대상으로 한 공공 감시가 더 많이 이루어지게 됐다. 그리고 이 회사들은 제품이 유발할 수 있는 문제를 줄이기 위해 AI 윤리 부서가 필요하다는 사실을 깨달았다. AI 윤리 부서는 AI 시스템의 설계, 개발, 배포 과정에 걸쳐 우리의 삶과 사회, 정치 체계에 어떤 영향을 미치는지 평가한다. 

그러나 AI 시스템의 문제점을 지적하는 사람들은 고용주의 반발만 아니라 온라인에서도 공격적인 비난에 직면하곤 한다. 부올람위니는 세계에서 가장 강력한 테크 회사인 아마존에 대한 연구를 발표한 후 대중의 비난에 시달렸다고 털어놓았다. 

부올람위니가 처음 목소리를 내기 시작했을 때만 해도 그녀는 AI의 문제점을 사람들에게 설득해야 했다. 좋은 소식은 이제 사람들이 AI 시스템이 편향되고 해로울 수 있다는 사실을 잘 알고 있다는 것이다. 나쁜 소식은 강력한 테크 회사들에 대항해 목소리를 내는 일이 여전히 위험하다는 것이다. 실로 부끄러운 일이 아닐 수 없다. AI의 위험성과 관련된 논의와 규제에 대한 대중의 생각을 전환하려는 움직임이 어느 때보다 커지고 있으며, 영국의 총리인 리시 수낙(Rishi Sunak)을 비롯한 법률 입안자들의 주목을 받고 있다. 만약 AI를 둘러싼 이러한 문화가 다른 이들이 목소리를 내지 못하게 막는다면 언젠가 우리 모두가 그 대가를 치르게 될 것이다.