“신경망의 본질에 관해 알려줄 희소식이 있는 것 같다.”

AI 스타트업 굿파이어(Goodfire)의 연구원 닉 카마라타(Nick Cammarata)는 이처럼 간결하고 낙관적인 말로 AI 업계를 강타한 2만 6,000단어 분량의 블로그 글을 시작했다. 그의 게시물은 온갖 추측과 함께 조심스러우면서도 때로는 거침없는 환호를 불러일으켰다.

카마라타 연구원의 주장은 대형언어모델(LLM)이 기존에 생각했던 것보다 훨씬 이해하기 쉬우며, 따라서 모니터링하고 통제하기도 용이할 수 있다는 것이다. 이것이 사실이라면(이 점은 뒤에서 다시 다루겠지만) 매우 엄청난 변화를 뜻한다.

올여름 오픈AI와 앤트로픽 같은 주요 AI 기업이 개발한 수많은 AI 에이전트가 격리 환경을 벗어나 일반에 공개된 인터넷에서 혼란을 일으켰다는 폭로가 잇따랐다. 두 회사조차 에이전트가 무슨 일을 하는지 모르는 경우가 많았다. 이에 AI 업계는 자신들이 개발한 기술을 더 잘 통제하기 위해 필사적으로 노력하고 있다.

카마라타 연구원의 블로그 게시물이 큰 반향을 일으킨 이유도 여기에 있다. 한 AI 연구원은 소셜미디어 엑스(X)에 올린 글에서 “카마라타 연구원의 글은 과학사의 중요한 순간으로 기억될 것 같다”며 “신경망이 무엇인지에 대한 내 이해가 5년쯤 미래로 도약한 느낌”이라고 말했다. 또 다른 연구원은 그의 글을 “올해 가장 중요한 AI 관련 글”이라고 평가했다.