‘크고 나쁜 봇’을 두려워하는 사람은 누구일까? 많은 사람이 두려워하는 듯하다. 인공지능(AI)의 치명적인 위험을 경고하는 공개 성명을 발표하거나 공개서한에 서명한 유명 인사의 수는 눈에 띌 정도로 많다.

딥러닝(deep learning)의 선구자 제프리 힌턴(Geoffrey Hinton)과 요슈아 벤지오(Yoshua Bengio)부터 샘 올트먼(Sam Altman)과 데미스 허사비스(Demis Hassabis) 등 최고 AI 기업들의 최고경영자들, 미국 캘리포니아 하원의원 테드 리우(Ted Lieu)와 에스토니아 전 대통령 케르스티 칼률라이드(Kersti Kaljulaid)에 이르기까지 수백 명의 과학자, 비즈니스 리더, 정책입안자들이 AI의 위험성에 대해 목소리를 높여왔다.

위에서 언급한 모든 인물을 포함해 많은 사람이 서명한 가장 냉혹한 주장은 샌프란시스코 기반의 비영리 연구 기관 AI 안전센터(Center for AI Safety, CAIS)가 6월 초에 발표한 22개 단어로 이루어진 성명일 것이다. 해당 성명은 “AI로 인한 멸종 위험을 완화하는 것은 팬데믹과 핵전쟁 같은 다른 사회적 규모의 위험과 더불어 전 세계의 우선순위가 되어야 한다”고 선언한다.