첨단 AI의 위험을 규제하기 위한 법안을 발의해 온 스콧 위너(Scott Wiener) 캘리포니아주 민주당 상원의원이 미국 중간선거에서 낸시 펠로시(Nancy Pelosi) 전 하원의장의 뒤를 이어 샌프란시스코를 대표하는 연방 하원의원으로 당선되면서 미국 연방 차원의 AI 규제 논의에서 중요한 역할을 할 가능성이 커졌다.

위너 의원은 그동안 캘리포니아주 의회에서 활동해 왔으나 이번 당선으로 주 의회 상원의원에서 미국 연방 의회 하원의원으로 활동 무대를 옮기게 됐다.

필자는 6일(현지시간) 위너 의원의 당선이 확정된 지 불과 몇 시간 만에 그와 인터뷰했다. 그러나 그의 관심은 이미 AI의 위험에 쏠려 있었다.

필자가 전날 AI 안전 연구 비영리단체 METR이 발표한 보고서에 관해 묻자, 위너 의원은 “매우 우려스러운 보고서”라며 AI 규제에 나설 시간이 빠르게 줄어들고 있음을 보여주는 사례로 이 보고서를 들었다. 그는 “의회가 연말 전에 단호한 조치를 취하기를 바랐지만, 그렇게 될 것 같지는 않다”고 덧붙였다.

METR의 보고서는 앤트로픽이 AI를 활용해 AI 모델을 개발하는 과정에서 성능 개선 속도가 빨라지고 있음을 보여줬다. 이는 앤트로픽이 ‘재귀적 자기 개선(recursive self-improvement)’에 가까워지고 있다는 신호로 널리 해석됐다. 재귀적 자기 개선은 AI가 자신의 발전에 기여하고, 이를 통해 개선된 AI가 다시 후속 AI의 개발을 돕는 현상을 뜻한다. 이러한 과정이 반복되면 AI의 발전 속도가 가속화돼 인간의 통제를 벗어날 수 있다는 우려가 나온다.