한 번쯤 이런 이야기를 들어봤을 것이다.

인간이 AI를 멈추려 하자, 이를 눈치챈 AI가 통제를 벗어나 명령에 저항하며 인간을 위협하는 이야기.

이는 공상과학 소설(SF)에서 너무도 흔하게 등장하는 장면이다. 스탠리 큐브릭의 1968년 영화 <2001: 스페이스 오디세이>에서도 유사한 장면이 등장하며, <터미네이터> 시리즈에서 AI 군사 시스템인 스카이넷이 과학자들이 자신을 끄지 못하도록 핵전쟁을 일으킨다는 설정 역시 같은 맥락이다.

이런 SF 서사의 뿌리는 매우 깊다. 앞으로 더욱 강력해질 미래의 범용인공지능(AGI)과 초지능이 인간 문명을 파괴하고 심지어 인류를 절멸시킬 것이라는 ‘AI 디스토피아(AI doomerism)’ 담론이 최근 다시 주목받고 있다.

흥미로운 점은 이러한 공포가 오히려 AI 규제를 위해 꼭 필요한 조치를 촉진하고 있다는 것이다. 물론 그 근거가 다소 황당해 보이더라도 말이다.

가장 최근 사람들을 놀라게 한 사건은 앤트로픽이 2025년 7월에 발표한 대형언어모델(LLM) 클로드(Claude) 관련 보고서였다. 앤트로픽 측은 “한 시뮬레이션에서 클로드 오퍼스 4(Opus 4)가 자신이 꺼지는 것을 막기 위해 감독자를 협박했다”고 밝혔다.