“We’ll never have true AI without first understanding the brain”

뇌를 이해하지 않고는 진정한 AI를 얻을 수 없다

신경과학자이자 기술기업가인 제프 호킨스는 지능이 어떻게 작동하는지 알아냈다고 주장한다. 그는 세계 모든 AI 연구소에서 이 원리를 알게 되기를 바란다.

어떻게 보면, AI에 대한 탐구는 늘 생각하는 기계를 만들기 위한 시도였다. 그러나 인공지능과 생물지능이 얼마나 유사해야 하는지를 두고서는 수십 년간 의견이 분분했다. 초기에, AI를 구축하기 위한 노력에는 의사결정 프로세스(decision-making processes)와 정보저장 시스템(information storage systems)이 포함되었다. 이는 인간이 생각하는 방식을 막연히 모방한 것이었다. 그리고 오늘날의 딥러닝(deep neural networks)*은 뇌에서 상호연결된 신경세포가 발화하는 방식을 막연히 모방하고 있다. 그러나 막연한 모방은 대개 한계가 있다.

*입력층, 출력층, 은닉층으로 구성된 인공 신경망에서 은닉층의 개수를 늘려 신경망의 층을 더 두텁게 만든 심층 신경망을 통해 학습시키는 기법

신경과학자이자 기술기업가인 제프 호킨스(Jeff Hawkins)는 인공지능 분야의 연구자들 대부분이 세부적인 것에 별로 신경을 쓰지 않는다고 말한다. 호킨스는 이를 바꾸고 싶어한다. 그는 거의 40년 동안 신경과학과 AI, 두 세계에 모두 발을 걸치고 있었다. 1986년, 인텔에서 소프트웨어 엔지니어로 몇 년간 일한 뒤, 호킨스는 지능의 작동 원리를 알고 싶다는 바람으로 캘리포니아주립 버클리대학에서 신경과학 박사 과정을 시작했다. 그러나 그런 거시적 연구 과제를 도와줄 사람은 아무도 없다는 말을 듣고서 난관에 부딪쳤다. 좌절한 호킨스는 실리콘밸리로 방향을 돌려 1992년 팜컴퓨팅(Palm Computing)을 설립했다. 이 회사는 지금의 스마트폰의 원조 격인 팜파일럿(PalmPilot)을 개발했다.

그러나 두뇌에 대한 관심과 열정은 사라지지 않았다. 15년 뒤 호킨스는 신경과학 분야로 돌아가 레드우드 이론신경과학 센터(Redwood Center for Theoretical Neuroscience, 현재 캘리포니아주립 버클리대학 산하 연구소)를 창립했다. 그리고 지금은 실리콘밸리에 기반을 둔 신경과학 연구기업 누멘타(Numenta)를 운영하고 있다. 이곳에서 호킨스와 그의 팀은 신피질(neocortex)을 연구한다. 신피질은 뇌에서 지능과 연관된 모든 것을 담당하는 부분이다. 누멘타는 지난 몇 년간 이어진 일련의 시도 끝에, 생물지능을 연구하며 배운 것을 기계에 적용하며, 회사의 초점을 뇌에서 인공지능으로 바꾸었다.

호킨스의 아이디어는 앤드류 응(Andrew Ng)과 같은 AI 분야 거물들에게 영감을 주었고, 리처드 도킨스(Richard Dawkins) 같은 석학들로부터 찬사를 받았다. 도킨스는 지난 3월 2일 출간된 호킨스의 신간 천 개의 뇌: 새로운 지능 이론(A Thousand Brains: A New Theory of Intelligence)에 열광적인 서문을 써주었다.

나는 호킨스의 인간 두뇌 연구가 기계지능에 무슨 의미가 있는지에 관해 줌을 통해 그와 긴 대화를 나눴다. 호킨스만이 모든 해답을 알고 있다고 생각하는 유일한 실리콘밸리 기업가는 아니다. 또한 호킨스의 결론에 모두가 동의할 것 같지도 않다. 그러나 그의 아이디어로 인해 AI가 대대적으로 혁신될 수도 있다.

본 인터뷰는 지면 제한과 명료성을 감안하여 편집되었다.

AI가 현재 잘못된 방향으로 가고 있다고 생각하는 이유는 무엇인가?

복잡한 질문이다. 나는 오늘날의 AI를 비판하지 않는다. 지금의 AI가 훌륭하다고도 생각한다. 현재의 인공지능은 유용하다. 다만 지적이라고 생각하지는 않는다.

내 주요 관심사는 두뇌다. 수십 년 전에 나는 뇌에 푹 빠졌다. 인공지능을 만들기 전에 지능이 무엇인지부터 알아내야 한다는 입장을 나는 오랫동안 견지해왔다. 그리고 이를 위한 가장 좋은 방법은 뇌를 연구하는 것이다.

1980년 즈음, 나는 AI에 대한 접근 방식을 보면서 진정한 지능형 기계를 만들지 못할 것이라고 생각했다. 또한 AI의 다른 모든 발전 단계를 보고도 똑같은 느낌을 받았다. 내게는 새로울 게 없는 일이다.

최근 딥러닝(deep learning)으로 이룬 진전은 매우 인상적이다. 하지만 여기에도 근본적인 결핍이 있다는 사실만은 바뀌지 않았다. 나는 지능이 무엇인지 안다고 생각한다. 즉, 뇌가 어떻게 활동하는지 안다고 생각한다. 그리고 지금 AI는 뇌가 하는 활동을 하고 있지 않다.

인공지능을 구축하기 위해서는 어떻게든 뇌를 재현해야 한다는 뜻인가?

아니다. 뇌의 직접적인 복제물을 만들어야 한다고는 생각하지 않는다. 전뇌 에뮬레이션(whole brain emulation)*에는 전혀 관심이 없다. 하지만 우리는 비슷한 원리에 따라 작동하는 기계를 만들어야 한다. 우리가 가진 유일한 지능 시스템은 생물학적 시스템뿐이다. 왜 그걸 연구하지 않나.

*인간 뇌를 스캔하고 이를 모형화해 만드는 지능적 소프트웨어

처음으로 컴퓨터를 본 사람이 “굉장한 물건이다! 이런 걸 만들어야겠다”고 했다고 가정해보자. 그런데 그 사람이 컴퓨터를 들여다보고 컴퓨터가 어떻게 작동하는지를 알아내려고 하는 대신에 그냥 가서 처음부터 컴퓨터를 만들려고 하는 것과 같은 일이다.

그렇다면 지능의 결정적 요소이고, 따라서 AI도 해야 한다고 생각하는 활동은 무엇인가?

지능에는 네 가지 속성이 있다. 이것이 일종의 기준이 된다. 첫 번째는 움직이면서 배운다는 점이다. 즉, 우리는 주변에 있는 모든 것을 단번에 감지하지 못한다. 움직여야 사물에 대한 심성모형(mental model)을 형성할 수 있다. 눈이나 손만 움직이더라도 말이다. 이를 체화(embodiment)라고 한다.

다음으로 이 감각 입력을 수만 개의 피질원주(cortical columns)*가 받아들이고, 각각의 피질원주는 세계의 부분적 그림들을 가지게 된다. 이 부분 그림들은 전체상 구축을 위하여, 일종의 투표 시스템을 통해 경쟁하고 결합한다. 이것이 천 개의 뇌 아이디어다. AI 시스템에서는 세계에 대한 보다 완벽한 모형을 얻기 위해, (시각, 촉각, 전파탐지와 같은) 다양한 감지기를 제어하는 기계를 포함할 수 있다. 비록 일반적으로 시각과 같은 각 감각에는 관련된 피질원주가 많겠지만 말이다.

*대뇌피질 표면에 수직 방향으로 원기둥처럼 분포해 있는 신경세포들의 집단

그 다음으로 지속적 학습이 있다. 이전 것을 잊지 않고 새로운 것을 배우는 일이다. 오늘날의 인공지능 시스템은 이를 수행할 수 없다. 마지막으로, 우리는 기준틀(reference frames)을 사용해서 지식을 조직화한다. 이는 세계에 대한 우리의 지식과 우리의 관점 간에 상관관계가 있다는 뜻이다. 커피잔에 손가락을 대고서 쓸어 올리면 잔 테두리를 만질 수 있다는 것을 예측할 수 있다. 왜냐하면 손이 컵과 관련해 어디에 있는지를 알고 있기 때문이다.

최근 누멘타의 연구 분야가 신경과학에서 AI로 바뀌었다. 이는 천 개의 뇌 이론과 관련된 결정인가?

그렇다고 할 수 있다. 2년 전까지만 해도 우리 사무실에 왔다면 모두 신경과학 연구소라고 여겼을 것이다. 그때 전환했다. 우리는 AI에 적용해도 될 만큼 뇌에 대해 충분히 배웠다고 느꼈다.

어떤 종류의 AI 연구를 하고 있나?

가장 먼저 살펴본 것 중 하나가 희소성(sparsity)이다. 우리 신경세포는 어느 때든 한 번에 20%만이 발화한다. 신경세포의 활동이 드문드문 일어난다. 우리는 이 아이디어를 딥러닝 네트워크에 적용했다. 기존 네트워크의 속도가 50배 빨라지는 등 극적인 결과를 얻고 있다. 또 희소성 적용을 통해 네트워크의 성능은 더 강력해지고 전력 소비는 더 낮아졌다. 지금은 지속적 학습에 대한 연구를 진행 중이다.

움직임을 지능의 기초로 포함시켰다는 점이 흥미롭다. 이는 인공지능이 몸체를 필요로 한다는 뜻인가? AI가 로봇이 되어야 하나?

미래에는 AI와 로봇공학의 구분이 사라질 것이라고 나는 생각한다. 하지만 지금은 로봇보다는 ‘체화(embodiment)’라는 단어를 선호한다. 왜냐하면 로봇이라고 하면 인간을 닮은 로봇의 모습을 떠올리기 쉽기 때문이다. 이는 내가 말하고자 하는 바가 아니다. 핵심은 인공지능이 센서를 가져야 하고 또 AI 자체와 모형화하려는 대상과 관련지어 센서를 움직일 줄 알아야 한다는 점이다. 하지만 인터넷에서 움직이는 가상 AI도 있을 수 있다.

이 아이디어는 지능 또는 비체화된 뇌(disembodied brain)에 관한 여러 가지 대중적인 아이디어들과 상당히 다르다.

움직임은 정말 흥미롭다. 뇌는 동일한 메커니즘을 사용해, 커피잔 위의 손가락을 움직이거나 눈을 움직인다. 심지어는 개념 문제를 생각할 때도 마찬가지다. 뇌는 기준틀을 이용해 활동하면서 다른 위치에 저장해놓은 사실을 다시 불러들인다.

요점은 모든 지능 시스템들은 (시스템의 물리적 형태와 상관없이) 세계의 각각 다른 부분을 감지함으로써, 또 세계 안에서 움직임으로써 세계를 배운다는 점이다. 이것이 기본 원리다. 여기에서 벗어날 수 없다. 생긴 모습이 휴머노이드 로봇 또는 뱀 로봇 같을 수도 있고, 차나 비행기, 또는 그저 인터넷을 검색할 수 있는, 책상 위에 놓인 컴퓨터일 수도 있지만 모두 같다.

대부분의 AI 연구자들은 이 아이디어에 대해 어떻게 생각하는가?

대다수의 AI 연구자들은 뇌가 중요하다는 생각을 잘 받아들이지 않는다. 근래에 들어서 연구자들은 신경망에 대해 알아냈고, 뇌에서 영감을 받기도 했다. 그러나 대부분의 연구자들은 두뇌를 모사해보려고 하지 않는다. 작동하는 게 뭐든 작동은 다 한다. 게다가 오늘날의 신경망은 꽤 잘 작동하고 있다.

또한 AI 분야에 있는 대부분의 연구자들은 신경과학에 대해 잘 모른다. 놀라운 일은 아니다. 왜냐하면 신경과학을 이해하는 건 정말 어려운 일이기 때문이다. 그냥 앉아서 며칠간 신경과학 책을 읽는다고 해서 되는 일이 아니다. 게다가 신경과학 자체도 뇌에서 도대체 무슨 일이 일어나고 있는지를 이해하기 위해 고군분투하고 있다.

하지만 이 책을 쓴 가장 큰 목적은 우리가 지금 갖고 있지 않은 지능에 대해 대화를 시작해보자는 것이다. 내 이상적인 바람은 전 세계 모든 인공지능 연구소에서 이 책을 읽고 나서 이 아이디어에 대해 논의하기 시작하는 것이다. 우리가 이 아이디어를 받아들이는 게 좋을까? 우리에게 다른 의견은 없나? 전에는 아예 불가능했던 일이다. 이 뇌 연구는 시작한 지 5년도 채 안 됐기 때문이다. 나는 이것이 진정한 전환점이 되기를 바란다.

이런 대화가 AI연구를 어떻게 바꿀 것이라고 보나?

하나의 연구분야로서 AI는 지능이 무엇인지에 대한 정의가 부족했다. 튜링 테스트(Turing test)는 내가 보기에 지금까지 일어났던 최악의 일 중 하나다. 오늘날에도 우리는 벤치마크(benchmarks)*와 기발한 속임수에 너무 초점을 맞추고 있다. 이게 유용하지 않다고 말하려는 게 아니다. 암세포를 감지할 수 있는 AI는 대단하다. 하지만 그것이 지능인가? 아니다. 이번 책에서 나는 화성에다 인간을 위한 거주지를 짓는 로봇의 예를 들었다. 거주지 건설을 위해서 어떤 인공지능이 필요할지 한번 상상해보라. 그게 가능할까? 전적으로 가능하다. 21세기 말에는 그런 기계를 갖게 될 것이라고 나는 생각한다. 문제는 미래를 구축하는 데 필요한 핵심 사항들에 대해, 말하자면 “여기 또 다른 기발한 방법이 있지요”와 같은 접근에서 벗어나 미래를 건설하는데 필요한 근본적인 것으로 옮겨갈 수 있느냐 하는 것이다.

*하드웨어나 소프트웨어의 성능이나 신뢰성을 비교·검사할 때의 평가 기준

그렇다면 튜링이 기계지능에 대한 논의를 시작했을 때 잘못한 것은 무엇인가?

되돌아가서 그가 저술한 논문을 읽어본다면, 원래는 그가 지능을 가진 기계를 만들 수 있는지에 대한 논쟁에서 빠져 나오고 싶어했다는 점을 알 수 있다. 그는 “생각할 게 좀 있으니까 귀찮게 하지 말아 달라”고 말하고 있다. 문제는 AI가 과제에 너무 초점을 맞추고 있다는 점이다. 인간이 할 수 있는 일을 기계도 할 수 있을까? 라는 식이다. 더구나 이런 관점은 우리가 설정한 AI의 모든 목표까지 확장되었다. 그래서 바둑 두는 일이 AI의 엄청난 성과가 되었다. 정말 그런가?

모든 성능 기반 메트릭스(metrics, 업무 수행 결과를 보여주는 계량적 분석)의 문제는 (튜링 테스트도 이런 메트릭스의 일종이다) 무엇이 지능 시스템인가 하는 논의나 중대한 질문을 회피한다는 점이다. 만일 누군가를 속일 수 있다면, 만일 어떤 기발한 공학 기술로 과제를 해결할 수 있다면, 그건 그 벤치마크를 달성한 것이다. 그렇다고 해서 지능이라는 것이 무엇을 의미하는지 더 깊이 이해했다고는 할 수 없다.

인간이 달성할 법한 성취에 중점을 두는 것도 문제인가?

미래에, 지능을 가진 많은 기계들은 인간이 하는 어떤 일도 하지 않을 것이라고 나는 생각한다. 많은 지능형 기계들은 쥐나 고양이처럼 아주 작고 간단할 것이다. 따라서 언어와 인간 경험, 튜링 테스트를 통과하기 위한 모든 것에 초점을 맞추는 일은 지능을 가진 기계를 만드는 것과 그다지 관계가 없어 보인다. 인간을 닮은 기계를 만들고 싶어 한다면 관련이 있을 것이다. 하지만 우리가 꼭 그것만 원한다고는 생각하지 않는다.

이번 신간에 당신이 휴대용 컴퓨터가 어떤 쓸모가 있는지 모르는 인텔의 상사를 설득하는 일화가 나온다. 그렇다면 이 미래의 AI는 무엇을 하겠는가?

나도 모른다. 그건 아무도 모른다. 하지만 지능형 기계가 할 수 있는 유용한 일을 엄청나게 많이 찾을 것이라는 점은 알고 있다. 전화기와 컴퓨터를 가지고서 우리가 해왔던 일처럼 말이다. 1940년대나 50년대에는 컴퓨터가 뭘 할지 아무도 예상하지 못했다. AI도 마찬가지다. 좋은 일일 것이다. 안 좋은 일도 있겠지만 대부분 좋을 것이다.

하지만 나는 이에 대해 장기적인 안목으로 생각하는 것을 더 좋아한다. “지능을 가진 기계를 만들면 무슨 소용이 있겠는가?”라고 묻는 대신 나는 “삶의 목적이 무엇인가?”라고 묻는다. 우리는 거대한 우주에 살고 있고, 그 안에서 우리는 아무것도 아닌 작은 점일 뿐이다. 이 질문은 어렸을 때부터 내 머릿속을 떠나지 않았다. 왜 우리는 무언가에 관심을 가질까? 왜 우리는 이 모든 일을 하고 있을까? 하나의 종(species)으로서 우리의 목표는 무엇이어야 할까?

내 생각에 그건 인간의 유전자 풀(gene pool)을 보존하는 게 아닌 것 같다. 그보다는 지식을 보존하는 것이라고 나는 생각한다. 그런 관점에서 본다면, 지능을 가진 기계가 필수적이다. 우리는 이 세상에 영원히 있지 않겠지만, 우리의 기계는 그럴 수 있다.

이런 발상이 나에게 영감을 준다. 나는 삶에 목적이 있기를 바란다. AI가 (오늘날의 AI가 아니라 내가 상상하는 AI가) 아직 우리가 모르는 시간과 장소에서도 우리를 보존해줄 수 있는 본질적인 방법이라고 나는 생각한다.

미리보기 3회1회

MIT Technology Review 구독을 시작하시면 모든 기사를 제한 없이 이용할 수 있습니다.