1997년 5월 11일 세계 체스 챔피언 가리 카스파로프(Garry Kasparov)가 미국 맨해튼의 에퀴터블 센터(Equitable Center)에서 자신의 고급 가죽 의자에 앉은 채 불안한 듯 손으로 머리를 감쌌다. 그는 IBM의 슈퍼 컴퓨터 딥블루(Deep Blue)와 마지막 체스 경기를 하고 있었다. 이번 경기는 인간과 기계의 대결에서 승자가 가려질 중요한 경기였으나 상황은 그에게 그다지 좋지 않았다. 경기 초반에 큰 실수를 범한 후 자책감에 휩싸인 카스파로프는 궁지에 몰려 있었다.

수준 높은 체스 게임에는 일반적으로 4시간 이상이 소요된다. 하지만 게임이 시작되고 1시간쯤 지났을 때 카스파로프는 자신이 패배할 것임을 깨달았다. 그는 게임을 기권한다고 선언했다. 그리고 딥블루 개발을 도운 IBM의 엔지니어이자 체스판 옆에서 딥블루의 체스 말을 움직이고 있었던 조지프 호앤(Joseph Hoane)과 딱딱하게 악수를 했다.

그러고 나서 카스파로프는 의자에서 일어나 어깨를 살짝 으쓱하며 관중석 쪽으로 걸어갔다. 나중에 그는 “어떨 때는 기계가 마치 신처럼 체스를 뒀다”고 말했다.

인공지능(AI)에 관심이 있는 사람들에게 위대한 체스 그랜드마스터(grand master)의 패배는 충격으로 다가왔다. 시사 주간지인 <뉴스위크>는 이 대결을 ‘인간 두뇌의 마지막 저항(The Brain’s Last Stand)’이라고 표현했고, 또 다른 헤드라인에서는 카스파로프를 ‘인류의 수호자(the defender of humanity)’라고 불렀다. AI가 세계에서 가장 영리한 체스 챔피언의 두뇌를 능가했으니 이제 모든 면에서 컴퓨터가 인간을 압도할 것 같았다. 그리고 IBM은 그 과정을 이끌 것처럼 보였다.

그러나 물론 그런 일은 일어나지 않았다. 사실 이제 와서 25년 전을 돌아보면, 딥블루의 승리는 AI의 승리가 아니라 도리어 당시 구식 AI의 종말을 고하는 사건이었다고 할 수 있다. 딥블루는 구식 컴퓨터 지능, 즉 힘들게 손으로 적어 넣은 끝없는 코드의 나열로 만들어진 기계로서 절정의 순간을 맞이한 것이었고, 이러한 구식 시스템은 머지않아 신경망(neural net), 특히 ‘딥러닝(deep learning)’이라는 기술에 밀려 자리를 내어주게 된다. 딥블루는 소행성으로 인해 곧 멸망하게 될 크고 육중한 공룡과 같았다. 반면 신경망은 계속해서 살아남아 지구를 변화시킬 작은 포유류와 같았다. 그러나 심지어 일상이 AI로 가득 찬 오늘날에도 컴퓨터과학자들은 여전히 기계가 진정으로 ‘생각’을 할 수 있게 될지 논쟁을 벌이고 있다. 그리고 그 질문에 관한 답을 생각해 보면, 어쩌면 딥블루가 결국에는 최후의 승자가 될지도 모른다.

1989년 IBM이 딥블루를 개발하기 시작했을 때, AI는 그다지 전망이 밝지 않았다. AI 분야에는 어지러운 과대광고를 통한 기대와 굴욕적인 실패가 여러 차례 반복되고 있었다. 1950년대의 선구자들은 AI가 곧 엄청나게 발전할 것이라고 주장했다. 수학자 클로드 섀넌(Claude Shannon)은 “10년이나 15년 안에 공상과학 소설 속 로봇과 비슷한 것이 실험실에서 등장하게 될 것”이라고 예측하기도 했다. 하지만 그런 일은 일어나지 않았다. 그리고 개발자들이 결과물을 내놓지 못할 때마다 투자자들은 화가 나서 새로운 프로젝트에 대한 자금 지원을 중단했다. 이로 인해 1970년대에도, 그리고 1980년대에도 혹독한 ‘AI 겨울(AI winter)’이 찾아왔다.

이제 우리는 잘 알고 있지만, 그들이 실패했던 이유는 AI 개발자들이 순수한 논리를 이용해서 우리의 어지러운 일상을 다루려고 했기 때문이다. 당시 엔지니어들은 그것이 가능하다고 생각했고, 그래서 참을성 있게 AI가 내려야 할 모든 결정에 관한 규칙을 작성했다.

문제는, 그런 식으로 관리하기에는 현실 세계가 너무 모호하고 미묘하다는 것이었다. 엔지니어들은 자신들의 역작인 ‘전문가 시스템(expert system)’이라는 프로그램을 공들여 만들었고, 전문가 시스템은 현실 세계에서 예상치 못한 상황을 마주하기 전까지는 꽤 그럴듯하게 작동했다. 예를 들어, 전문가 시스템을 이용해서 신용카드 회사가 신용카드 신청을 자동으로 승인하는 시스템을 만들었다고 하자. 그 시스템을 그냥 사용했다가는 시스템이 강아지나 13살 어린이들에게 카드를 발급했다는 것을 알게 될 수도 있다. 미성년자나 반려동물이 카드를 신청할 거라고 예상하지 못한 프로그래머가 그런 상황에 맞춘 규칙까지는 작성하지 않았을 것이기 때문이다. 전문가 시스템은 스스로 새로운 규칙을 배울 수 없었다.

손으로 작성한 규칙을 바탕으로 제작된 AI는 ‘불안정’했다. 이런 AI는 예상하지 못한 이상한 상황을 마주하면 한마디로 ‘고장’이 났다. 1990년대 초반에는 이러한 전문가 시스템의 문제로 인해 다시 한번 ‘AI 겨울’이 찾아왔다.

시애틀의 앨런 인공지능 연구소(Allen Institute for AI)의 CEO이자 과거에 AI 분야에서 커리어를 시작한 젊은 컴퓨터과학 교수였던 오렌 에치오니(Oren Etzioni)는 “AI를 둘러싼 많은 논의들은 마치 AI를 과대광고로만 치부하는 듯했다”고 설명했다.

그 냉소적인 상황 속에서 딥블루는 이상할 정도로 야심 찬 달 탐사 로켓처럼 나타났다.

딥블루 프로젝트는 머리 캠벨(Murray Campbell)과 펭슝 수(Feng-hsiung Hsu)를 비롯한 과학자들이 카네기멜런대학교에서 제작한 체스용 컴퓨터 ‘딥소트(Deep Thought)’를 발전시킨 것이었다. 딥소트의 성능은 매우 훌륭했다. 1988년에 딥소트는 그랜드마스터 벤트 라슨(Bent Larsen)을 물리치고, 그랜드마스터를 이긴 첫 번째 체스 AI가 되었다. 카네기멜런팀은 체스의 수를 평가하기 위한 더 나은 알고리즘을 알아냈고, 그런 계산을 빠르게 처리할 수 있는 맞춤형 하드웨어도 제작했다. (이 AI의 이름 ‘딥소트’는 <은하수를 여행하는 히치하이커를 위한 안내서(The Hitchhiker’s Guide to the Galaxy)>에 등장하는 슈퍼컴퓨터의 이름을 땄다. 작품에서 삶의 의미가 무엇인지 물었을 때 이 AI는 ‘42’라고 답했다.)

IBM은 딥소트에 관한 소문을 듣고 어떤 인간이든 이길 수 있는 뛰어난 컴퓨터를 만드는 ‘대단한 도전’을 하기로 했다. 1989년에 IBM은 수와 캠벨을 고용하여 그들에게 세계 최고의 그랜드마스터를 능가하는 기계를 만드는 과제를 맡겼다. 오랫동안 체스는 AI 커뮤니티에서 강력한 상징성을 가지고 있었다. 순수한 사고로 이루어진 영적 세계에서 두 적수가 서로를 마주하는 대결이었기 때문이다. 그들이 카스파로프를 능가하는 컴퓨터를 만든다면, 분명히 뉴스 헤드라인을 장식하게 될 것이었다.

딥블루를 제작하기 위해 캠벨과 그가 이끄는 연구팀은 체스 포지션을 더 빠르게 계산하기 위한 새로운 칩을 만들어야 했고, 체스 그랜드마스터들을 고용해서 다음 수를 평가하는 알고리즘을 개선했다. 효율성이 중요했다. 가능한 모든 체스 게임의 경우의 수는 우주에 있는 원자의 수보다 많기 때문에 슈퍼컴퓨터라고 해도 적절한 시간 내에 그 모든 가능성을 고려할 수는 없었다. 체스 경기를 위해서 딥블루는 한 수 앞을 내다보고, 거기서 가능한 수를 계산하고, 좋지 않아 보이는 수들을 제거하고, 유망한 경로를 따라 게임을 전개하는 과정을 여러 번 반복했다.

캠벨은 “우리는 개발에 5년쯤 걸릴 것으로 생각했지만, 실제로는 6년이 조금 넘게 걸렸다”고 설명했다. 1996년에 IBM은 마침내 카스파로프를 상대할 준비가 됐다고 판단하고, 2월에 경기 일정을 잡았다. 캠벨과 연구팀은 여전히 딥블루를 완성시키기 위해 정신없이 서두르고 있었다. 그는 “딥블루는 실제 체스 경기가 열리기 고작 몇 주 전에 완성됐다”고 밝혔다.

그렇게 딥블루가 등장했다. 첫 경기는 딥블루가 이겼지만, 카스파로프는 3승을 거두며 승리를 차지했다. IBM은 재경기를 요청했고 캠벨의 연구팀은 더 빠른 하드웨어를 개발하기 위해 다음 해를 꼬박 바쳤다. 시스템 개선을 마친 딥블루는 30개의 파워PC(PowerPC) 프로세서와 480개의 체스 전용 칩으로 만들어져 있었다. 연구팀은 체스 포지션을 분석하기 위한 더 나은 알고리즘을 만들려고 이전보다 더 많은 4~5명의 그랜드마스터를 고용했다. 1997년 5월, 카스파로프와 딥블루가 다시 만났다. 이제 딥블루는 이전보다 속도가 두 배나 빨라져서 1초에 2억 개의 수를 평가할 수 있었다.

그렇다고 해도 IBM은 여전히 승리를 확신하지 못했다. 캠벨은 “우리는 비길 것으로 예상했다”고 당시 회사의 분위기를 떠올렸다.

그러나 현실은 훨씬 더 드라마틱했다. 첫 번째 게임은 카스파로프의 완승이었다. 그러나 두 번째 게임 36번째 수에서 딥블루의 체스 말은 카스파로프가 예상하지 못했던 곳으로 움직였다.

그는 컴퓨터가 체스를 둘 때 사용하는 방식에 익숙했다. 가능한 수를 하나씩 대입해 보는 ‘무차별 대입(brute-force)’ 방식이었다. 컴퓨터는 단기 전략에서는 인간을 앞섰다. 그리고 딥블루는 몇 번의 이동으로 최상의 선택을 쉽게 추론할 수 있었다.

그러나 컴퓨터의 약점은 전략이었다. 기계는 경기가 계속 진행되면 나타날 수 있는 게임의 형태를 생각하는 능력이 부족했다. 이 부분에서는 여전히 인간이 우위를 점하고 있었다.

아니면 카스파로프가 그렇게 생각하고 있었던 것인지도 모른다. 2차전에서 딥블루의 예상치 못한 수가 그를 당황하게 만들기 전까지 그는 그렇게 생각했다. 딥블루의 수가 너무나 절묘해서 카스파로프는 걱정하기 시작했다. 어쩌면 기계의 성능이 그가 생각했던 것보다 훨씬 더 뛰어날지도 몰랐다! 이길 방법이 없다고 판단한 그는 두 번째 게임을 기권했다.

그러나 그래서는 안 됐다. 알고 보니 딥블루는 사실 그렇게 뛰어난 것이 아니었다. 카스파로프는 무승부로 경기를 끝낼 수 있는 수를 찾아내지 못했던 것이다. 그는 혼자서 겁을 먹었다. 그는 기계를 실제 성능보다 과대평가했고, 여느 인간처럼 아무것도 아닌 것에 실체를 부여하며 걱정을 시작했던 것이었다.

리듬을 잃은 카스파로프는 계속해서 악수(惡手)를 두기 시작했다. 그는 계속해서 혼자서 혼란에 빠졌다. 여섯 번째 게임 초반에 그는 경기를 보고 있던 사람들이 충격에 빠질 정도로 형편없는 수를 뒀다. 그는 나중에 기자회견에서 “경기를 제대로 할 수 있는 상태가 아니었다”고 말했다.

IBM은 딥블루 덕분에 큰 이익을 얻게 되었다. 딥블루의 성공 이후에 이어진 언론의 열광 속에서 IBM의 시가총액은 단 한 주 만에 114억 달러 상승했다. 하지만 그보다 더 중요한 것은 IBM의 승리가 오랫동안 이어졌던 AI 겨울을 녹여주는 사건이 된 것이었다. 체스를 정복했으니 다음은 무엇일까? 대중의 마음이 크게 동요하고 있었다.

사실 컴퓨터가 카스파로프를 이긴 것은 그다지 놀라운 일이 아니었다. AI에 그리고 체스에 주목하고 있던 대부분의 사람들은 결국에는 그런 일이 일어날 것으로 예상하고 있었다.

체스는 인간 사고의 정점처럼 보일지 모르지만, 실제로는 그렇지 않다. 사실 체스는 무차별적인 계산을 이용해 꽤 잘 처리할 수 있는 정신적인 작업이다. 체스는 규칙이 분명하고 숨겨진 정보도 없으며 이전 수에서 어떤 일들이 있었는지 컴퓨터가 계속 추적할 필요도 없다. 체스를 잘 두기 위해서는 그저 당장 눈앞에 있는 말의 위치를 평가하기만 하면 되는 것이다.

“체스와 마찬가지로 우리가 올바른 결정을 내리는 데 필요한 모든 정보를 가지고 있는 분야에서는 문제가 거의 없다.”

사람들은 컴퓨터의 속도가 충분히 빨라지면 언젠가 인간을 압도하리라는 것을 알고 있었다. 단지 언제 그런 일이 가능할지 시기가 의문일 뿐이었다. 알파벳(Alphabet)의 자회사인 AI 기업 딥마인드(DeepMind)의 CEO 데미스 허사비스(Demis Hassabis)는 1990년대 중반까지 “무슨 일이 일어날 것 같은 조짐이 있었다”고 말했다.

딥블루의 승리는 핸드코딩 시스템의 한계를 드러내는 순간이기도 했다. IBM은 체스를 두는 컴퓨터를 개발하는 데 몇 년의 시간과 수백만 달러의 자금을 투자했지만, 그 컴퓨터는 체스 외에는 아무것도 할 수 없었다.

캠벨은 “딥블루는 승리했지만, 그 사건 이후에 딥블루 AI가 세상에 엄청난 영향을 미치는 일은 없었다”고 말했다. 그들은 체스 대결을 통해 인간 지능의 어떠한 원리도 발견하지 못했다. 현실 세계는 체스와 달랐다. 캠벨은 “체스와 마찬가지로 우리가 올바른 결정을 내리는 데 필요한 모든 정보를 가지고 있는 분야에서는 문제가 거의 없다. 하지만 세상에는 미지수도 많고 무작위로 벌어지는 일도 많다”고 덧붙였다.

딥블루가 카스파로프를 완패시키고 있었을 때, 소수의 신예 과학자들은 근본적으로 더 유망한 형태의 AI, 바로 ‘신경망’을 손보고 있었다.

신경망에서는 전문가 시스템과 다르게 AI가 하게 될 모든 결정에 관한 규칙을 작성할 필요가 없다. 대신에 인간의 뇌가 학습하는 방식을 어느 정도 흉내 낸 시스템의 내부 연결을 학습(training)과 강화(reinforcement)를 통해 만들어낼 수 있다.

신경망에 대한 아이디어는 1950년대부터 존재해왔다. 그러나 유용할 정도로 거대한 신경망을 학습시키려면 매우 빠른 컴퓨터와 엄청난 메모리, 방대한 데이터가 필요했다. 당시에는 그중 어느 것도 이용할 수 없었다. 심지어 1990년대에 들어와서도 신경망은 시간 낭비로 여겨지고 있었다.

이 분야의 개척자이자 토론토대학교 컴퓨터과학 명예교수 제프리 힌튼(Geoffrey Hinton)은 “당시 AI 분야에 있던 대부분의 사람들은 신경망이 쓰레기에 지나지 않는다고 생각했다. 나는 신경망의 ‘열렬한 신봉자’로 불렸고, 그건 칭찬이 아니었다”고 설명했다.

그러나 2000년대에 들어서면서 컴퓨터 산업은 계속해서 발전하며 신경망을 실현 가능하게 만들었다. 비디오 게임을 즐기는 사람들이 더 나은 그래픽을 열망하면서 초고속 그래픽처리 장치 분야에 거대한 산업이 탄생했고, 이러한 그래픽처리 장치가 신경망 수학에 완벽하게 적합한 것으로 드러났던 것이다. 한편, 인터넷도 발전을 거듭하며 시스템을 학습시키는 데 사용할 수 있는 수많은 이미지와 텍스트를 생산해냈다.

2010년대 초반에 이러한 기술적 도약 덕분에 힌튼과 그의 동료들은 신경망을 새로운 단계로 끌어올릴 수 있었다. 그들은 여러 계층의 히든 레이어(이것이 ‘딥러닝’에서 ‘딥(deep, 심층)’의 의미다)으로 이루어진 신경망을 만들어낼 수 있었다. 2012년에 그의 팀은 AI들이 이미지 속 요소들을 인식하며 경쟁하는 연례 이미지넷(Imagenet) 대회에서 손쉽게 우승을 차지했다. 그리고 이 사건은 컴퓨터과학계를 깜짝 놀라게 했다. 스스로 학습하는 기계가 마침내 실현 가능해진 것이었다.

딥러닝 혁명이 시작된 이래로 10년 동안 신경망과 패턴 인식 능력이 일상의 구석구석을 장악했다. 이런 기술은 지메일(Gmail)에서 메일을 쓸 때 문장을 자동으로 완성할 수 있게 도와주며, 은행이 사기를 감지하는 것도 도와주고, 사진 앱이 자동으로 얼굴을 인식할 수 있게 한다. 또한 오픈AI(OpenAI)의 GPT-3와 딥마인드의 고퍼(Gopher)의 경우에는 인간이 쓴 것처럼 보이는 긴 에세이를 쓰거나 텍스트를 요약하는 작업도 할 수 있다. 신경망은 심지어 과학이 발전하는 방식조차도 변화시키고 있다. 2020년에 딥마인드는 단백질의 형태를 예측할 수 있는 AI, 알파폴드2(AlphaFold2)를 발표했다. 인간을 뛰어넘는 이러한 기술은 연구원들이 신약과 새로운 치료법을 개발하는 데 도움을 줄 수 있다.

한편 딥블루는 이후에 어떤 유용한 결과물도 남기지 못하고 사라졌다. 체스는 알고 보니 일상생활에 필요한 컴퓨터 기술이 아니었다. 딥마인드의 설립자 허사비스는 “딥블루는 결국에 모든 것을 손으로 만들려고 했을 때의 결점만을 보여줬다”고 말했다.

IBM은 또 다른 특화 시스템 왓슨(Watson)을 통해 상황을 바꿔 보고자 했다. 이번 시스템은 조금 더 현실적인 문제를 다루도록 만들어졌다. 바로 기계가 질문에 답하게 하는 것이었다. 왓슨은 언어를 이해하기 위해 방대한 텍스트를 통계적으로 분석하는 방식을 사용했다. 당시에는 그것이 최첨단 기술이었다. 왓슨은 단순한 조건문(if-then) 시스템보다 발전한 형태였다. 그러나 타이밍이 좋지 않았다. 고작 몇 년 뒤에 딥러닝 혁명이 시작됐기 때문이다. 딥러닝은 왓슨의 통계 기술보다 훨씬 미묘한 언어 처리 모델을 만들어냈다.

신경망과 다른 형태의 머신러닝을 사용해 새로운 약물 치료법을 연구하는 인시트로(Insitro)를 설립해 운영하는 전직 스탠퍼드대학교 교수 대프니 콜러(Daphne Koller)는 “패턴 인식이 믿을 수 없을 정도로 강력하기” 때문에 구식 AI는 딥러닝에 완전히 밀려났다고 설명했다. 신경망의 유연성, 다시 말해 패턴 인식이 사용될 수 있는 매우 다양한 방식 덕분에 아직까지 또 다른 AI 겨울은 찾아오지 않고 있다. 그녀는 “머신러닝은 실제로 가치를 가져왔다”고 말하며, “그것은 이전에 AI 분야에서는 할 수 없었던 일”이라고 말했다.

딥블루와 신경망 각각의 운명이 이렇게 뒤바뀐 것은 오랫동안 우리가 AI에서 무엇이 어렵고 가치 있는지 판단하는 데 얼마나 서툴렀는지 보여준다.

수십 년 동안 사람들은 체스를 마스터하는 것이 중요하다고 생각했다. 체스는 인간이 고난도로 플레이하기 어려운 게임이었기 때문이다. 그러나 상당히 논리적인 게임인 체스는 컴퓨터가 마스터하기에는 비교적 쉬운 게임이었던 것으로 드러났다.

컴퓨터가 배우기 더 어려워하는 것들은 인간이 하는 훨씬 가볍고 무의식적인 정신 활동이었다. 예를 들어 생생한 대화를 나누고, 교통 체증 속에서 자동차를 운전하고, 친구의 감정을 읽는 등의 활동이 이러한 정신 활동에 포함된다. 우리는 이런 일을 별다른 노력 없이 할 수 있기 때문에 이것이 사실은 매우 어려운 작업이며 이런 작업을 위해서 얼마나 모호한 판단을 해야 하는지 거의 깨닫지 못한다. 딥러닝의 유용성은 이렇게 미묘하고 확인할 수 없는 인간 지능의 아주 작은 부분이라도 포착할 수 있는 능력에서 비롯되었다고 할 수 있다.

그러나 아직도 AI 분야에서 최종적인 승자는 없다. 딥러닝이 한창 잘 나가고 있지만, 딥러닝 역시 많은 비판을 모으고 있다.

뉴욕대학교 언론학 교수로 전향한 프로그래머이자 <페미니즘 인공지능(Artificial Unintelligence)>의 저자인 메러디스 브루서드(Meredith Broussard)는 “아주 오랫동안 AI가 모든 문제를 해결해 줄 거라는 기술 맹신주의적인 믿음이 있었다”고 설명했다. 그러나 그녀를 비롯해 비판적인 시각을 가지고 있는 다른 사람들의 지적처럼, 딥러닝 시스템은 자주 편향적인 데이터로 학습하고 그런 편향을 그대로 흡수하곤 한다. 컴퓨터과학자 조이 부오람위니(Joy Buolamwini)와 팀니트 게브루(Timnit Gebru)는 상업적으로 이용 가능한 시각 AI 시스템 세 개가 흑인 여성의 얼굴을 분석하는 성능이 매우 떨어진다는 것을 발견했다. 아마존도 이력서를 심사할 수 있도록 AI를 학습시켰다가 이 시스템이 여성에게 좋지 않은 평가를 내린다는 점만 발견하고 말았다.

컴퓨터과학자들과 많은 AI 엔지니어들은 현재 이러한 편향 문제를 인식하고 있다. 그러나 이 문제를 어떻게 처리해야 할지에 대해서는 아무도 확실한 해답을 내놓지 못하고 있다. 현재 매사추세츠 공과대학교(MIT)의 컴퓨터과학 및 인공지능 실험실(Computer Science and Artificial Intelligence Laboratory)을 운영하는 AI 전문가 다니엘라 러스(Daniela Rus)는 신경망이 “거대한 블랙박스(black box)”라고 설명했다. 이는 신경망을 학습시키고 나면 신경망이 어떤 과정으로 그렇게 작동하는지 신경망의 제작자조차도 그 과정을 쉽게 이해할 수 없다는 의미이다. 신경망이 어떻게 그런 결론에 도달했는지, 또는 어째서 실패했는지 확실히 알 수가 없는 것이다.

“아주 오랜 시간 동안 AI가 모든 문제를 해결해 줄 거라는 기술 맹신주의적인 믿음이 있었다.”

러스는 “안전이 중요한” 일이 아니라면 블랙박스 유형의 AI에 의존하는 것이 큰 문제가 되지 않는다고 생각한다. 그러나 자동차 주행처럼 큰 위험이 따르는 일에서는 어떨까? 그녀는 사람들이 자율주행을 그렇게 신뢰하는 것이 상당히 놀랍다고 설명했다.

이런 부분에서는 딥블루가 이점을 가지고 있었다. 손으로 규칙을 적어서 만든 구식 AI들은 불안정했을지 모르지만 적어도 왜 그런 식으로 작동하는지 이해할 수는 있었다. 기계가 복잡하기는 했지만, 수수께끼는 아니었다.

아이러니하게도 공학자들과 컴퓨터과학자들이 패턴 인식의 한계와 씨름하는 과정에서 그런 구식 프로그래밍이 다시 귀환하게 될지도 모른다.

오픈AI의 GPT-3나 딥마인드의 고퍼 같은 언어 생성 알고리즘은 사람이 작성한 몇 개의 문장들을 가지고 그 뒤에 이어서 그럴듯하게 들리는 글을 몇 페이지에 걸쳐 작성할 수 있다. 그러나 이렇게 인상적인 흉내내기 능력에도 불구하고 허사비스는 고퍼가 “자신이 생성하는 문장들이 어떤 의미인지 전혀 이해하지 못한다”고 말했다.

이와 유사하게 시각 AI는 극단적인 상황을 마주했을 때 심각한 실수를 저지를 수 있다. 한번은 자율주행 자동차가 고속도로에 정차해 있던 소방차와 충돌한 일이 있었다. 이 사고의 원인은 수백만 시간에 걸쳐 다양한 영상을 통해 학습했는데도 AI가 그런 상황을 마주한 적이 한 번도 없었기 때문이었다. 신경망도 그 나름대로의 방식으로 ‘취약성’ 문제가 있는 것이다.

많은 컴퓨터과학자들이 이제 짐작하고 있듯이, AI가 진정으로 발전하기 위해서 필요한 것은 세상에 대한 사실을 아는 능력과 그것들에 대해 추론하는 능력이다. 자율주행 자동차는 AI의 패턴 인식에만 의존할 수 없다. 자율주행 자동차도 소방차가 무엇인지, 고속도로에 정차한 소방차를 보는 것이 어째서 위험을 의미하는지 같은 상식을 알아야 한다.

문제는 그 누구도 추론할 수 있고 상식을 가질 수 있는 신경망을 구축하는 방법을 모른다는 것이다. 인지과학자이자 <2029 기계가 멈추는 날(Rebooting AI)>의 공동 저자인 게리 마커스(Gary Marcus)는 AI의 미래를 위해서 ‘하이브리드’ 접근법이 필요할 것이라고 생각한다. 하이브리드 접근법이란 AI의 두 가지 방식을 접목하는 것을 의미한다. 신경망이 패턴을 학습하기는 하지만 구식의 핸드코딩한 규칙에 따라 안내를 받는 것이다. 이렇게 하면 어떤 면에서는 딥블루의 이점과 딥러닝의 이점을 결합할 수 있다.

딥러닝을 강하게 애호하는 사람들은 이런 의견에 동의하지 않는다. 힌튼은 신경망이 장기적으로는 완벽하게 추론하는 능력을 갖추어야 한다고 생각한다. 인간이 추론을 할 수 있고, ‘인간 뇌의 신경망에서도’ 추론을 할 수 있기 때문이다. 핸드코딩한 규칙을 사용하자는 것은 그에게 이상한 소리로 들릴 뿐이다. 그렇게 되면 기존의 모든 전문가 시스템이 갖고 있던 문제에 또다시 부딪치게 될 것이고, 기계가 상식을 갖는 것도 절대 기대할 수 없다는 것이다. 힌튼은 AI가 신경망에 계속해서 혁신을 가져오는 것이야말로 AI가 발전할 수 있는 방법이라고 주장했다. 인간의 두뇌가 작동하는 방식을 더 정확하게 흉내 낼 수 있는 새로운 하드웨어와 새로운 러닝 알고리즘을 연구해야 한다는 뜻이다.

컴퓨터과학자들은 다양한 접근법을 시도해보고 있다. IBM에서 딥블루의 개발자 캠벨은 마커스가 제안한 것과 어느 정도 비슷한 방식으로 작동하는 ‘신경-상징(neuro-symbolic)’ AI를 연구하고 있다. 에치오니의 실험실에서는 신경망 학습과 기존의 컴퓨터 논리를 결합한 AI용 상식 모듈을 제작하려고 하고 있다. 하지만 아직은 초기 단계다. AI의 미래는 딥블루나 신경망 어느 쪽에도 완전한 승리가 아닐 수 있으며, 두 개를 이어 붙인 프랑켄슈타인 같은 방식과 비슷할지도 모른다.

AI가 계속 발전한다고 하면 우리 인간은 그것과 어떻게 공존할 수 있을까? 우리도 딥블루에게 패배한 카스파로프처럼 우리가 경쟁할 수 없는 ‘사고 작업’에 훨씬 능통한 AI들에게 결국 패배하게 될까?

카스파로프는 그렇게 생각하지 않는다. 딥블루에 패배하고 얼마 지나지 않았을 때 그는 AI와의 대결이 무의미하다고 판단했다. 기계는 무작위로 모든 수를 대입하는 방식을 사용하면서 근본적으로 인간적이지 않은 방식으로 ‘사고’했다. 따라서 기계는 항상 단기적으로는 더 나은 전략을 구사할 수 있을 것이다.

그렇다면 왜 경쟁해야 할까? 기계와 우리가 협력할 수는 없는 것일까?

딥블루와의 경기 이후에 카스파로프는 인간과 기계가 협력하는 ‘어드밴스드 체스(advanced chess)’를 고안했다. 인간이 다른 인간을 상대해서 체스를 하면서 각자가 노트북으로 체스 소프트웨어를 사용해 가능한 수 계산에 도움을 받는 방식이다.

1998년에 어드밴스드 체스 경기를 하기 시작했을 때 카스파로프는 게임에서 일반 체스와는 다른 흥미로운 차이점을 빠르게 발견했다. 흥미롭게도 어드밴스드 체스에서는 아마추어들이 자신들의 능력을 뛰어넘는 실력을 보이고 있었다. 2005년에 있었던 어드밴스드 게임에서는 아마추어팀이 몇 명의 그랜드마스터를 물리치고 우승을 거머쥐었다.

그들은 어떻게 최고의 체스 선수들을 이길 수 있었을까? 그 이유는 아마추어들이 기계와 협력하는 법을 더 잘 이해하고 있었기 때문이었다. 그들은 어떻게 빠르게 아이디어를 늘릴 수 있는지, 그리고 언제 기계의 제안을 받아들이거나 무시해야 하는지 잘 알고 있었다. (일부 리그에서는 현재도 어드밴스드 체스 토너먼트를 개최하고 있다.)

카스파로프는 이것이 새롭게 떠오르고 있는 신경망의 세계에 우리가 어떻게 다가가야 하는지 정확히 보여주는 사례라고 주장했다.

그는 이메일에서 “미래는 새로운 고점에 도달하기 위해, 그리고 인간이나 기계 어느 쪽도 혼자서는 할 수 없는 일을 해내기 위해 인간과 기계의 지능을 결합하는 방법을 찾는 데 있다”고 말했다.

신경망은 물론 체스 엔진과는 다르게 작동한다. 그러나 다수의 전문가들은 인간과 AI의 협력에 대한 카스파로프의 생각에 강하게 동의한다. 딥마인드의 허사비스는 AI를 과학을 발전시킬 방법으로 여긴다. 인간이 새로운 돌파구로 나갈 수 있도록 도와주는 존재로 생각하는 것이다.

그는 “나는 우리가 AI를 활용하면 과학 분야에서 엄청난 발전을 목격하게 될 것이라고 생각한다”고 밝혔다. 콜러의 회사 인시트로도 연구원을 위한 협력 도구로서 AI를 사용하고 있다. 그녀는 “우리는 인간과 기계가 함께 하는 하이브리드 게임을 하고 있는 것”이라고 설명했다.

우리가 완전히 인간처럼 추론할 수 있는 AI를 만들어서 인간이 할 수 있는 것이 적어지고 AI가 모든 사고를 지배하는 그런 날이 오게 될까? 그럴지도 모른다. 하지만 최첨단 분야에 있는 이러한 과학자들도 그런 일이 만약 일어난다면 과연 언제쯤 일어나게 될지 예측할 수 없다.

따라서 그 유명한 체스 경기 이후로 25년이 지난 지금 딥블루가 남긴 마지막 선물을 생각해 보자. 카스파로프는 패배하면서 AI와 인간이 맞이하게 될 진정한 엔드게임(end game)을 알아챘다. 그는 “우리는 앞으로 점점 더 알고리즘을 관리하게 될 것이다. 그리고 그러한 알고리즘을 우리의 창조적인 결과물, 우리의 모험적인 영혼을 더 발전시키기 위해 사용할 것이다”라고 전망했다.

클리브 톰슨(Clive Thompson)은 뉴욕시에서 활동하는 과학기술 저널리스트이며, <Coders: The Making of a New Tribe and the Remaking of the World>의 저자이다.