작년, 기자가 인공지능 분야를 취재하기 시작했을 때 인공지능 세계에서는 중대한 경종이 울리고 있었다. 2018년 AI 연구는 강화학습부터 생성적 적대 신경망(GAN, Generative Adversarial Network)과 자연어이해(NLU, Natural Language Understanding)까지 괄목할 만한 성장을 이뤘다. 반면 이런 시스템이 너무 섣불리 활용될 때 발생할 수 있는 피해 사례들이 거론되기 시작했다.

테슬라 자동차가 오토파일럿 실행 중 충돌해 운전자가 숨지고, 우버 자율 주행차 역시 보행자 사망 사고를 일으켰다. 상용 얼굴 인식 시스템은 피부색이 어두운 사람을 대상으로 한 검사에서 형편 없는 성능을 보였다. 그럼에도 불구하고, IT 대기업은 법 집행 기관 등 고객에게 얼굴 인식 시스템을 계속 판매하였다. 올해 초, 이러한 사건을 바탕으로 나는 AI 커뮤니티를 위한 결의문을 쓴 적이 있다. AI를 단순히 마법처럼 다루지 말고, AI 커뮤니티가 AI를 윤리적으로 개발하고 적용하며 규제하는 책임을 담당해야 한다는 것이다.