AI 비관론자들에게는 여러모로 낯선 시기다.

연구자, 과학자, 정책 전문가로 이루어진 이 작지만 영향력 있는 집단은 AI가 지나치게 발전할 경우 인류에게 매우 위험한 결과를 초래할 수 있다고 믿는다. 이중 다수는 스스로를 종말론자라기보다는 AI 안전을 옹호하는 사람이라고 설명할 수 있다. 그럼에도 이들은 AI가 인류의 존재 자체를 위협할 수 있다고 경고한다. 이들은 충분한 규제가 마련되지 않는다면 AI 업계가 통제할 수 없는 시스템을 향해 치닫게 될 것이라고 주장한다. 또한 이들은 공통적으로 이러한 미래가 범용인공지능(AGI)의 등장 이후에 도래할 것으로 예견한다. AGI는 아직 명확히 정의된 개념은 아니지만, 일반적으로 인간이 할 수 있는 거의 모든 일을 인간보다 더 잘 수행할 수 있는 기술로 이해된다.

이러한 관점이 AI 분야 전반에서 폭넓은 공감대를 얻고 있는 것은 아니지만, AI 비관론 진영은 지난 몇 년간 주목할 만한 성과를 거두었다. 바이든 행정부의 AI 정책 수립에 기여했고, AI 위험을 막기 위한 국제적 ‘제한 기준’ 설정을 촉구하는 주요 인사들의 성명을 끌어냈으며, 그중 일부가 과학계에서 가장 권위 있는 상을 받으면서 더 크고 더 영향력 있는 발언권을 얻게 되었다.