일리야 수츠케버(Ilya Sutskever)가 고개를 숙인 채 깊은 생각에 잠겨 있다. 팔을 활짝 벌리고 손가락을 탁자 위에 펼쳐 놓은 그의 모습은 마치 첫 음을 막 연주하려는 피아니스트처럼 보인다. 우리는 조용히 앉아 있다.

필자는 오픈AI(OpenAI)의 공동 설립자이자 수석과학자인 수츠케버를 만나기 위해 샌프란시스코 미션디스트릭트의 눈에 띄지 않는 거리에 있는 그의 회사 건물로 찾아왔다. 수츠케버에게서 세상을 변화시키고 있는 AI 기술의 다음 단계와 그의 다음 계획에 대해 듣기 위함이었다. 특히 오픈AI의 주력 제품인 생성형 모델의 다음 세대 개발에 그가 더는 집중하지 않는 이유에 대해서도 알고 싶었다.

수츠케버는 차세대 GPT나 이미지 생성 모델 DALL-E를 만드는 대신 인공초지능(artificial superintelligence, AI의 잠재력을 믿는 그가 생각하기에 점점 다가오고 있는 가상의 미래 기술)이 인간의 통제를 벗어나지 않도록 방지하는 방법을 모색하는 것이 자신의 새로운 우선순위라고 밝혔다.

수츠케버는 그 외에도 많은 이야기를 들려주었다. 그는 챗GPT(ChatGPT)에 아주 약간의 의식이 있을지도 모른다고 생각한다. 또한 오픈AI를 비롯한 기업들이 서로 개발하려고 경쟁하고 있는 AI 기술의 진정한 힘을 세상 사람들이 깨달아야 한다고 생각한다. 게다가 언젠가는 인간이 기계와 결합되는 쪽을 선택할 것이라고 믿는다.

수츠케버가 주장하는 내용 중 많은 부분이 과격했다. 하지만 1~2년 전만 해도 더 과격하고 터무니없게 느껴졌을 그의 말은 이제 그때만큼 허무맹랑하게 들리지 않는다. 그가 직접 말했듯이, 챗GPT는 이미 많은 사람들의 기대를 바꿔 놓으면서, ‘절대 일어나지 않을 것’이라는 말을 ‘생각보다 빠르게 일어날 것’이라는 생각으로 바꾸어 놓았다.

수츠케버는 범용 인공지능(artificial general intelligence, 이하 ‘AGI’, 수츠케버는 인간만큼 똑똑한 기계를 이렇게 지칭했다)의 개발을 마치 또 하나의 아이폰이 등장하는 것처럼 확실한 일로 예측하기 전에 “모든 AI 기술이 어디로 향하고 있는지에 대해 이야기하는 것이 중요하다”고 지적했다. 그는 “언젠가 우리는 AGI를 갖게 될 것이다. 오픈AI가 개발할 수도 있고, 다른 기업에서 만들 수도 있다”고 예측했다.

오픈AI는 지난해 11월 깜짝 히트작인 챗GPT를 출시한 이후로 과대광고로 유명한 AI 업계에서도 놀라울 정도로 뜨거운 관심을 받았다. 기업가치가 800억 달러(약 108조 4,800억 원)에 달하는 이 괴짜 스타트업은 계속해서 사람들의 관심을 사로잡고 있다. 세계 정상들도 이들과의 만남을 원하거나 직접 만나고 있으며, 일상적인 대화에서도 오픈AI의 제품 이름이 계속해서 등장한다.

오픈AI의 최고경영자(CEO) 샘 올트먼(Sam Altman)은 이번 여름 내내 몇 주에 걸친 외부 활동 투어를 통해 정치인들과 반갑게 인사를 나누고 전 세계의 꽉 찬 강당에서 연설하며 시간을 보냈다. 하지만 수츠케버는 샘 올트먼처럼 유명 인사가 아니기 때문에 인터뷰에 많이 응하지 않는다.

수츠케버는 신중하고 체계적으로 말한다. 그는 하고 싶은 말을 어떻게 표현해야 할지 생각하며 오랫동안 말을 멈추기도 하고, 질문을 던지면 마치 풀어야 할 퍼즐을 앞에 둔 것처럼 질문에 대해 곰곰이 생각한다. 그는 자신에 대해 이야기하는 데 관심이 없어 보였다. 수츠케버는 “나는 단순한 삶을 살고 있다. 출근을 하고, 퇴근 후엔 집으로 돌아간다. 그 외에는 그다지 하는 일이 없다. 세상에는 참여할 수 있는 사회 활동과 행사가 많지만, 나는 그런 데 참여하지 않는다”고 설명했다.

하지만 AI와 그가 예상하는 미래의 획기적인 위험과 보상에 대한 화제로 넘어가자, 그는 새로운 전망들을 내놓았다. 그는 “세상이 깜짝 놀랄만한 엄청난 일이 될 것이다. 이전과는 완전히 다른 미래가 펼쳐지는 분기점이 찾아올 것이다”라고 전망했다.

점점 더 좋아지는 성능

세상에 오픈AI가 없었다고 해도 수츠케버는 AI 역사의 한 페이지를 장식했을 것이다. 이스라엘계 캐나다인인 그는 소비에트 러시아에서 태어났지만, 5살 때부터 예루살렘에서 자랐다(지금도 영어는 물론 러시아어와 히브리어를 구사할 수 있다). 그 후 캐나다로 건너간 그는 토론토 대학교(University of Toronto)에서 제프리 힌턴(Geoffrey Hinton)과 함께 공부했다. 제프리 힌턴은 자신이 탄생에 기여했던 AI 기술에 대해 올해 초 공개적인 우려를 드러낸 바 있는 AI의 선구자이다. (수츠케버는 힌턴의 발언에 대해 언급을 원하지 않았지만, 인간의 통제를 벗어난 초지능에 그가 새롭게 초점을 맞추고 있는 점을 보면 두 사람의 생각이 일치하는 것으로 보인다.)

힌턴은 훗날 신경망(neural network) 연구로 얀 르쿤(Yann LeCun), 요슈아 벤지오(Yoshua Bengio)와 튜링상(Turing Award)을 공동 수상했다. 그러나 2000년대 초반 수츠케버가 힌턴에게 합류했을 때만 해도, 대부분의 AI 연구자들은 신경망이 막다른 골목에 다다랐다고 생각했다. 힌턴은 예외였다. 수츠케버에 따르면 힌턴은 이미 한 번에 한 글자씩 짧은 텍스트를 생성할 수 있는 아주 작은 모델을 학습시키고 있었다. 수츠케버는 “그것이 생성형 AI(generative AI)의 시작이었다. 정말 멋진 아이디어였지만, 그다지 성능이 뛰어나지는 않았다”고 술회했다.

수츠케버는 뇌가 학습하는 방식과 그 과정을 기계에서 재현하거나 적어도 모방할 가능성에 흥미를 느꼈다. 그는 힌턴처럼 신경망의 잠재력을 보았고, 힌턴이 신경망을 학습시키는 데 사용했던 시행착오 기법, 즉 딥러닝(deep learning)의 가능성을 알아챘다. 수츠케버는 “그 기술은 점점 더 성능이 개선되고 있었다”고 설명했다.

2012년 수츠케버, 힌턴, 그리고 힌턴의 또 다른 대학원생 알렉스 크리제브스키(Alex Krizhevsky)는 당시 다른 어떤 소프트웨어보다 사진 속 사물을 훨씬 잘 식별하도록 학습한 알렉스넷(AlexNet)이라는 신경망을 구축했다. 이때가 바로 딥러닝의 빅뱅이 일어난 순간이었다.

수년에 걸친 실패 끝에 그들은 결국 신경망이 패턴 인식에 놀라울 정도로 효과적이라는 점을 증명했다. 신경망을 활용하려면 대부분의 연구자들이 이전에 보았던 것보다 더 많은 데이터(이 경우에는 프린스턴 대학교(Princeton University)의 연구원 페이페이 리(Fei-Fei Li)가 2006년부터 구축하고 있었던 이미지넷(ImageNet) 데이터 세트에서 가져온 이미지 백만 개가 사용됐다)와 엄청난 컴퓨터 성능이 필요할 뿐이었다.

컴퓨터 연산 능력의 획기적인 변화는 엔비디아(Nvidia)가 그래픽 처리 장치(graphics processing unit, 이하 ‘GPU’)라는 새로운 종류의 칩을 개발하면서 일어났다. GPU는 빠르게 움직이는 비디오게임 그래픽을 화면에 초고속으로 전송하도록 설계됐다. 하지만 GPU는 방대한 숫자 그리드 곱셈에 뛰어났고, 이는 우연히도 신경망을 학습시키는 데 필요한 연산과 매우 유사했다.

이제 엔비디아는 기업가치가 1조 달러에 달하는 기업이 되었다. 그러나 당시에는 새로 개발한 GPU 활용 방법을 절실히 모색하고 있었다. 엔비디아의 젠슨 황(Jensen Huang) CEO는 “신기술을 개발할 때는 이상하고 기발한 아이디어를 받아들일 수 있어야 한다”며 “나는 항상 이상하고 기발한 아이디어를 찾고 있었고, 신경망이 컴퓨터과학을 혁신할 것이라는 생각은 매우 이상하고 기발한 아이디어였다”고 말했다.

황은 토론토대 연구팀이 알렉스넷을 개발할 때 엔비디아에서 GPU 몇 개를 테스트용으로 연구팀에 보냈다고 주장했다. 그러나 연구팀은 시장에서 빠르게 매진되고 있던 최신 버전인 GTX 580을 원했다. 황에 따르면 수츠케버는 토론토에서 뉴욕으로 국경을 넘어 직접 차를 몰고 가서 GTX 580 몇 개를 구매했다. 황은 “사람들이 모퉁이마다 줄을 서 있을 정도로 제품의 인기가 많아서 우리는 게이머당 GPU를 한 개만 구매할 수 있다는 매우 엄격한 정책을 고수했다. 하지만 어떻게 했는지 모르겠지만 그는 자동차 트렁크 하나를 제품으로 가득 채운 것 같았다. GTX 580으로 가득 찬 그 트렁크가 세상을 바꿨다”고 이야기했다.

이는 멋진 이야기지만 사실이 아닐 수도 있다. 수츠케버는 최초의 GPU를 온라인에서 구매했다고 주장했다. 하지만 이러한 ‘신화 만들기’는 AI 업계에서 흔히 볼 수 있는 일이다. 수츠케버는 더 겸손한 태도를 보였다. 그는 “나는 약간이라도 실질적인 진전을 이룰 수 있다면 성공이라고 생각했다”며 “당시에는 컴퓨터 성능이 매우 부족했기 때문에 그 기술이 실제 세상에 영향을 미치게 되는 미래가 너무 멀게만 느껴졌다”고 설명했다.

알렉스넷의 성공 이후 구글이 문을 두드렸다. 구글은 힌턴의 스핀오프 기업 디엔엔리서치(DNNresearch)를 인수하고 수츠케버를 고용했다. 구글에서 수츠케버는 딥러닝의 패턴 인식 능력이 이미지뿐만 아니라 단어와 문장 같은 데이터에도 적용될 수 있음을 보여주었다. 수츠케버의 이전 동료이자 현재 구글의 수석과학자로 일하고 있는 제프 딘(Jeff Dean)은 “일리야는 항상 언어에 관심이 많았다”며 “우리는 몇 년 동안 훌륭한 토론을 했다. 일리야는 미래 전망에 대한 직관적인 감각이 뛰어나다”고 말했다.

하지만 수츠케버는 구글에 오래 머물지 않았다. 2014년 그는 오픈AI의 공동설립자로 영입됐다. 올트먼, 일론 머스크(Elon Musk), 피터 틸(Peter Thiel), 마이크로소프트, 와이콤비네이터(Y Combinator) 등으로부터 10억 달러를 투자받은 오픈AI는 실리콘밸리에서 자신감을 뽐내며 당시에는 아무도 진지하게 생각하지 않았던 AGI 개발에 처음부터 초점을 맞췄다.

막대한 자금을 지원받은 뛰어난 인재들에 수츠케버까지 합류했으니 오픈AI의 자신감은 당연한 것이었다. 그때까지만 해도 수츠케버는 신경망을 통해 점점 더 많은 것을 얻어내며 순조롭게 연구를 지속하고 있었다. 와이콤비네이터의 투자 담당 상무이사 돌턴 콜드웰(Dalton Caldwell)은 수츠케버의 명성이 높아지면서 그가 큰 주목을 받았다고 설명했다.

콜드웰은 “샘 올트먼이 일리야를 세상에서 가장 존경받는 연구자 중 한 명으로 언급했던 일이 기억난다”며 “샘은 일리야가 최고의 AI 인재들을 많이 끌어들일 수 있을 것이라고 생각했다. 심지어 세계 최고의 AI 전문가 중 하나인 요슈아 벤지오도 일리야만큼 오픈AI의 수석과학자로 적합한 인물을 찾기는 어려울 것이라고 말하기도 했다”고 말했다.

하지만 처음에 오픈AI는 허둥대기도 했다. 수츠케버는 “오픈AI를 시작할 때만 해도 앞으로 진전을 어떻게 이루어야 할지 내가 정확히 알 수 없었던 때가 있었다. 하지만 나는 딥러닝이 실패하지 않을 것이라는 확고한 신념이 있었다. 장애물에 부딪힐 때마다 연구원들은 6개월 또는 1년 이내에 이를 극복할 방법을 찾아낸다”고 말했다.

수츠케버의 믿음은 결실을 맺었다. 2016년에 오픈AI의 첫 번째 대형 언어모델(large language model)인 GPT(generative pretrained transformer, 생성형 사전학습 트랜스포머)가 등장했고, 그 뒤를 이어 GPT-2와 GPT-3, 그리고 놀라운 이미지 생성 모델인 DALL-E가 개발됐다. 그 누구도 이보다 더 뛰어난 기술을 개발하지 못했다. 신제품을 출시할 때마다 오픈AI는 이전에 가능하다고 생각했던 한계를 계속해서 뛰어넘었다.

기대치 관리

지난 11월 오픈AI는 기존 기술을 일부 포함한 무료 챗봇을 출시했다. 이 챗봇은 AI 업계 전체의 방향을 재설정했다.

당시 오픈AI는 자사 제품의 가능성을 잘 파악하지 못했다. 수츠케버는 오픈AI 내부의 기대치가 한없이 낮았다고 말했다. 그는 “약간 부끄럽지만, 처음 챗GPT를 만들었을 때만 해도 나는 이 제품에 어떤 특별함이 있는지 알지 못했다. 챗GPT에 사실에 입각한 질문을 하면 엉뚱한 대답을 내놓았다. 그래서 나는 이 제품이 너무 별로여서 사람들이 지루하다며 불평할 것이라고 생각했다”고 당시를 회상했다.

수츠케버는 편리함이 장점이었다고 말했다. 챗GPT에 사용된 대형 언어모델은 몇 달 전에 출시된 제품이었다. 하지만 이 제품을 접근성이 뛰어난 인터페이스로 포장하고 무료로 제공함으로써 수십억 명의 사람들이 처음으로 오픈AI를 비롯한 기업들이 무엇을 만들고 있는지 알게 되었다.

수츠케버는 “사람들은 챗GPT를 통해 AI 기술에 매료됐다”며 “처음 챗GPT를 사용하면 매우 놀라운 일을 경험한 것처럼 느껴진다. 마치 컴퓨터가 내 말을 이해하는 것처럼 보이기 때문이다”라고 설명했다.

오픈AI는 두 달도 되기 전에 1억 명의 사용자를 확보했으며, 이들 중 상당수가 이 새로운 장난감에 빠져들었다. 스토리지 업체 박스(Box)의 최고경영자인 애런 레비(Aaron Levie)는 챗GPT 출시 후 일주일 동안의 분위기를 트위터에서 다음과 같이 요약했다. “챗GPT는 앞으로 모든 것이 어떻게 달라질지 살짝 엿볼 수 있는 기술 분야의 드문 순간 중 하나이다.”

그 경이로운 순간은 챗GPT가 바보 같은 말을 내뱉는 순간 무너진다. 하지만 이는 중요하지 않다. 수츠케버는 무엇이 가능한지 엿볼 수 있는 것만으로도 충분하다고 설명했다. 챗GPT는 사람들이 이전에 생각하던 한계를 넓혔다.

수츠케버는 “머신러닝(machine learning) 분야에서 AGI에 대한 언급을 더는 꺼리지 않게 되었다”며 “이는 큰 변화였다. 지금까지 사람들은 AI가 제대로 작동하지 않고, 모든 단계가 매우 어려우며, 조금이라도 진전을 이루려면 싸워야 한다는 태도를 가지고 있었다. 그리고 누군가가 AGI에 대해 거창한 선언을 하면 연구자들이 무슨 이야기를 하는 거냐며, 그런 건 불가능하고 문제가 너무 많다고 비판하곤 했다. 하지만 챗GPT가 출시되면서 분위기가 달라지기 시작했다”고 설명했다.

그런 변화가 시작된 지 이제 고작 1년밖에 지나지 않았다는 점이 믿기지 않지만, 수츠케버는 “변화는 챗GPT 덕분에 가능했다”며 “챗GPT 덕분에 머신러닝 연구자들은 꿈을 꿀 수 있게 되었다”고 말했다.

처음부터 AGI의 가능성을 믿고 전파해 왔던 오픈AI의 과학자들은 블로그 게시물과 강연 투어를 통해 그러한 꿈에 더욱 불을 지폈다. 이는 효과가 있었다. 수츠케버는 “이제 사람들은 AI가 얼마나 발전할지 이야기하고, AGI나 초지능에 대해서도 이야기한다”며 “연구자들뿐만이 아니다. 정부도 그런 이야기를 하고 있다. 정말 대단한 변화다”라고 덧붙였다.

놀라운 일들

수츠케버는 아직 존재하지 않고 어쩌면 영원히 존재하지 않을 수도 있는 기술에 대한 이러한 모든 논의가 좋은 일이라고 주장했다. 그가 이미 당연시하고 있는 미래를 더 많은 사람들이 인지하도록 할 수 있기 때문이다.

그는 “AGI가 있으면 매우 놀라운 일들을 해낼 수 있다. 예를 들어 의료 서비스를 자동화하고, 훨씬 더 뛰어난 의료 서비스를 훨씬 더 저렴한 금액에 누릴 수 있게 할 수 있으며, 수많은 병을 치료할 수 있고, 지구 온난화를 실제로 해결할 수도 있을 것이다”라고 주장했다. 하지만 그는 “AI 기업이 그런 엄청난 기술을 성공적으로 관리할 수 있을지 우려하는 사람들이 많다”고 덧붙였다.

AGI를 이런 식으로 설명하면 현실적인 전망이 아니라 소원을 이루어 주는 램프의 요정처럼 보이기도 한다. 생명을 구하거나 기후변화를 해결하는 데 반대할 사람은 거의 없을 것이다. 하지만 존재하지 않는 기술에 대해 언급하면서 그 기술에 대해 원하는 바를 무엇이든 말하는 것은 문제가 될 수 있다.

수츠케버가 언급한 AGI 이야기의 진짜 의도는 무엇일까? 수츠케버는 “AGI는 과학적인 용어가 아니다. 유용한 임계치, 즉 기준점을 의미한다”고 설명했다.

수츠케버는 “그 의미는……”이라며 운을 떼다가 잠시 말을 멈췄다. 그러고는 “AI가 너무 똑똑해서 사람이 할 수 있는 일을 AI도 해낼 수 있는 그런 시점이다. 그 시점이 되면 AGI가 존재한다고 말할 수 있다”고 말했다.

AGI에 대해 이야기하는 사람들은 많지만, 사실 AGI는 여전히 AI 분야에서 상당히 논란이 되는 개념이다. AGI 개발을 당연한 것으로 받아들이는 사람은 거의 없다. 많은 연구자들은 수츠케버가 염두에 두고 있는 미래가 가능해지려면 획기적인 개념적 혁신이 필요하다고 생각하며, 일부는 그런 일이 절대 일어나지 않으리라고 생각한다.

하지만 AGI는 처음부터 수츠케버를 이끌어 온 원동력이었다. 그는 “나는 늘 AGI라는 개념에서 영감을 받고 동기를 부여받았다. 당시에 AGI라는 명칭은 없었지만 나는 모든 일을 처리할 수 있는 신경망을 상상했다. 신경망이 그런 일을 해낼 수 있으리라고 늘 믿고 있던 건 아니었지만, 그게 내 목표였다”고 말했다.

수츠케버는 신경망과 뇌의 작동 원리가 유사하다고 설명했다. 둘 다 데이터를 받아들이고 그 데이터에서 신호를 취합한 후 간단한 처리과정(신경망은 수학, 뇌는 화학물질과 생체 전기)을 기반으로 신호를 전파하거나 하지 않는다. 이는 매우 단순화한 설명이지만, 원리는 그대로이다.

수츠케버는 “신경망과 뇌가 유사하다는 믿음을 받아들인다면, 수많은 흥미로운 생각들이 뒤따르게 된다. 그중에서 가장 중요한 생각은 우리에게 매우 큰 인공 신경망이 있다면 그 인공 신경망이 수많은 일을 해낼 수 있다는 것이다. 인간의 뇌가 어떤 일을 할 수 있다면 뇌와 유사한 거대한 인공 신경망도 그와 비슷한 일을 할 수 있을 것이기 때문이다”라고 설명했다.

수츠케버는 “이러한 깨달음을 진지하게 받아들이면 나머지 모든 것도 자연스럽게 이해할 수 있다. 내 연구의 상당 부분도 이에 따라 설명할 수 있다”고 덧붙였다.

뇌에 대해 이야기하는 동안 X(이전 ‘트위터’)에 올라온 수츠케버의 게시물 중 하나에 대해 질문하고 싶었다. 수츠케버의 피드는 마치 경구가 적힌 두루마리처럼 보인다. 그의 피드에는 ‘인간의 다른 모든 자질보다 지능을 중요시해서는 안 된다’, ‘삶과 비즈니스에서 공감이 과소평가되고 있다’, ‘완벽이라는 명목하에 완벽하게 좋은 선한 것들이 많이 파괴됐다’ 등의 글이 올라와 있다.

2022년 2월에 수츠케버는 “오늘날 대규모 신경망에는 약간의 의식이 있을 수도 있다”는 게시글을 올렸다. (이에 대해 구글 딥마인드(DeepMind)의 수석과학자이자 임페리얼 칼리지 런던(Imperial College London)의 교수이며 영화 <엑스 마키나>의 과학 자문위원 머리 샤나한(Murray Shanahan)은 “…대규모 밀밭을 보고 파스타와 약간은 비슷하다고 할 수 있다는 것과 같은 의미에서”라는 댓글을 달았다.)

필자가 이 이야기를 꺼내자 수츠케버는 웃음을 터뜨렸다. 그는 사람들을 자극하려고 그런 글을 올린 것이 아니었다. 수츠케버는 “볼츠만 두뇌(Boltzmann brain)라는 개념에 대해 잘 아느냐”고 물었다.

그가 언급한 볼츠만 두뇌는 19세기 물리학자 루트비히 볼츠만(Ludwig Boltzmann)의 이름을 딴 양자역학의 사고실험이다. 이 실험에서는 우주의 무작위 열역학적 변동을 통해 두뇌가 나타났다가 사라지는 상황을 상상한다.

수츠케버는 “나는 지금 이 언어모델들이 볼츠만 두뇌와 비슷하다는 느낌이 든다”며 “뇌에 말을 걸고 약간 대화를 나누다가 대화를 마치면 뇌가 ‘팟’하고 사라지는 것이다”라고 손동작과 함께 설명했다.

필자는 신경망이 활성화되어 있는 동안 거기에 무언가가 있다는 의미냐고 물었다.

그는 “그런 것 같다”며 “확실하지는 않지만 그런 가능성을 반박하기도 매우 어렵다. 하지만 무슨 일이 일어나고 있는 건지 누가 알 수 있겠는가?”라고 답했다.

우리가 알고 있는 것과는 다른 AI

다른 연구자들이 인간의 지능을 따라잡을 수 있는 기계에 대해 고민하는 동안, 수츠케버는 인간을 ‘능가’하는 기계를 준비하고 있다. 그는 이를 인공초지능이라고 부른다. 수츠케버는 “인공초지능은 사물을 더 깊이 볼 수 있고, 우리가 보지 못하는 것도 볼 수 있을 것”이라고 설명했다.

이번에도 필자는 그가 말하는 초지능의 실제 의미를 파악하는 데 어려움을 겪었다. 인간 지능은 지능이라는 개념을 결정하는 기준이라고 할 수 있다. 그렇다면 수츠케버가 말하는 인간보다 더 똑똑한 지능이란 무엇을 의미하는 것일까?

그는 “매우 좁은 의미에서 초지능의 예는 알파고(AlphaGo)에서 볼 수 있었다”고 말했다. 2016년 딥마인드의 보드게임용 AI 알파고는 세계 최고의 바둑 기사 중 한 명인 이세돌을 다섯 번의 대국에서 4승 1패로 이겼다. 수츠케버는 “딥마인드는 인류가 수천 년에 걸쳐 발전시켜 온 방식과는 다른 방식으로 바둑 두는 법을 알아냈다”며 “새로운 아이디어를 생각해 냈다”고 말했다.

수츠케버는 알파고의 악명 높은 제37수를 지적했다. 이세돌과의 두 번째 대국에서 알파고는 해설자들을 당황하게 만드는 수를 두었다. 해설자들은 알파고가 실수했다고 생각했지만, 사실 알파고는 바둑의 역사에서 누구도 본 적 없는 승리의 수를 둔 것이었다. 수츠케버는 “그 정도의 통찰력이 모든 분야에 걸쳐서 있다고 상상해 보라”고 말했다.

이러한 사고의 흐름을 통해 수츠케버는 자신의 커리어에서 가장 큰 전환을 이루게 되었다. 그는 오픈AI의 동료 과학자 얀 레이커(Jan Leike)와 함께 초정렬(superalignment)에 집중할 팀을 구성했다. 정렬(alignment)이란 AI 모델을 사용자가 원하는 대로만 작동하도록 만드는 것을 의미하는 전문용어이다. 초정렬은 초지능에 적용된 정렬을 나타내기 위해 오픈AI가 사용하는 용어이다.

팀의 목표는 초지능과 같은 미래 기술을 구축하고 제어하기 위한 일련의 안전보장 절차를 만드는 것이다. 오픈AI는 이 문제에 회사의 방대한 컴퓨팅 자원의 5분의 1을 할당하고 4년 안에 문제를 해결할 것이라고 밝혔다.

레이커는 “기본적으로 기존 정렬 방식은 AI 시스템이 수행하는 작업을 인간이 안정적으로 평가할 수 있다고 가정하기 때문에 인간보다 더 똑똑한 모델에는 적용할 수 없다”며 “AI 시스템이 더 많은 능력을 갖추게 되면 더 어려운 작업을 수행하게 될 것이다”라고 전망했다. 그렇게 되면 인간이 AI 시스템을 평가하기는 더 어려워질 것이다. 그는 “일리야와 초정렬 팀을 구성하면서 우리는 이러한 미래의 정렬 문제를 해결하기 위해 노력하고 있다”고 밝혔다.

구글의 수석과학자 딘은 “대형 언어모델의 잠재적인 가능성뿐 아니라 위험과 부정적인 면에도 초점을 맞추는 것이 매우 중요하다”고 지적했다.

오픈AI는 7월에 평소처럼 떠들썩하게 이 프로젝트를 발표했다. 그러나 일부 사람들은 이를 아직 환상에 불과하다고 생각하는 듯했다. 오픈AI가 트위터에 올린 게시물은 빅테크(Big Tech)들을 비판하는 유명한 인물들에게 조롱을 받았다. 이러한 인물에는 모질라(Mozilla)에서 AI의 책임성에 대해 연구하는 아베바 버헤인(Abeba Birhane, “게시물 하나에 장대하게 들리지만 공허한 단어가 너무 많이 들어 있다”), 분산인공지능연구소(Distributed Artificial Intelligence Research Institute)의 공동설립자 팀니트 게브루(Timnit Gebru, “챗GPT가 오픈AI의 기술자들에게 지금보다 더 ‘초정렬’된다고 상상해 보라. 소름 끼친다”), 그리고 AI 기업 허깅페이스(Hugging Face)의 수석윤리과학자 마거릿 미첼(Margaret Mitchell, “그쪽보다 나에게 동조(alignment)하는 쪽이 더 많다”) 등이 포함됐다. 이러한 반대의 목소리들이 꽤 익숙한 것은 사실이다. 하지만 이러한 반응들은 오픈AI가 업계를 주도하고 있다고 생각하는 사람들도 있지만 주변부에서 애쓰고 있다고 보는 사람들도 있다는 점을 강하게 상기시킨다.

하지만 수츠케버에게 초정렬은 피할 수 없는 다음 단계이다. 그는 이에 대해 “아직 해결되지 않은 문제”라고 말했다. 이는 또한 그가 생각하기에 자신과 같은 핵심적인 머신러닝 연구자들이 충분히 주목하지 않고 있는 문제이기도 하다. 그는 “나는 내 개인적인 관심에 따라 이 일을 하고 있는 것이다. 누가 구축한 초지능이라고 해도 인간의 통제에서 벗어나 제멋대로 행동하지 않게 하는 것은 매우 중요한 일이다. 이는 당연한 일이다”라고 설명했다.

초정렬 작업은 이제 막 시작되었다. 수츠케버는 연구 기관 전반에 걸쳐 광범위한 변화가 필요할 것이라고 주장했다. 하지만 그는 자신이 설계하고자 하는 안전장치의 기준을 염두에 두고 있다. 그것은 부모가 자녀를 바라보는 것처럼 사람을 바라보는 기계이다. 그는 “그것이 최적의 기준이라고 생각한다. 사람이 자녀를 진심으로 걱정하는 것은 일반적인 사실이기 때문이다”라고 말했다. (그에게 자녀가 있느냐고 묻자 그는 없지만 갖고 싶다고 답했다.)

수츠케버와 함께하기로 한 시간이 거의 끝나가자 이제 마무리를 해야겠다고 생각했다. 하지만 그는 계속 말을 이어서 또 다른 생각을 들려주었다. 필자가 상상하지도 못했던 주장이었다.

그는 “인간의 통제를 벗어나는 AI에 대한 문제를 극복하고 나면 그다음은 어떻게 될까? 더 똑똑한 AI가 존재하는 세상에서 인간이 설 자리가 없게 될까?”라고 말했다.

그러면서 그는 “한 가지 가능성은 많은 사람들이 AI의 일부가 되기를 선택할 수도 있다는 것”이라고 주장하며, 이에 대해 “오늘날 기준으로는 미친 소리로 들리겠지만 미래 기준에서는 그다지 미친 소리처럼 들리지 않을 수도 있는 생각”이라고 덧붙였다. 수츠케버는 기계와의 결합이 “인간이 변화하는 세상과 기술에 뒤처지지 않기 위해 택하는 방법일 수 있다”면서 “처음에는 가장 대담하고 모험적인 사람들만 시도하겠지만 다른 사람들도 뒤따를 수 있다. 물론 그렇지 않을 수도 있다”고 전망했다.

무슨 소리냐고 물었지만 수츠케버는 이미 인터뷰 자리를 떠날 준비를 하고 있었다. 필자는 수츠케버에게 그런 시도를 할 생각이 있느냐고, 그런 일을 시도하는 최초의 사람이 될 수도 있느냐고 물었다. 그는 “최초의 사람이 될지는 잘 모르겠지만, 염두에 두고 있다. 내 답은 ‘아마도’이다”라고 답했다.

그 대답과 함께 수츠케버는 자리에서 일어나서 그곳을 떠났다. 그는 마지막으로 “다시 만나서 매우 반가웠다”고 말했다.