유행어 인기 순위로 따지면 아마 ‘양자컴퓨팅(quantum computing)’이 과대광고 측면에서 ‘인공지능(AI)’의 바로 아래 위치할 것이다. 알파벳, 아마존, 마이크로소프트 같은 거대 기술 기업들은 이제 양자컴퓨팅에 상당한 연구 개발 노력을 기울이고 있다. 양자컴퓨팅을 연구하는 스타트업도 우후죽순 생겨났다. 그중 일부 스타트업은 엄청난 기업가치를 자랑한다. 예를 들어 아이온큐(IonQ)는 기업인수목적회사를 통해 10월에 상장했을 때 기업가치가 20억 달러에 달했다. 이러한 모든 상황은 대부분 지난 3년 동안 당황스러울 정도로 빠른 속도로 이루어졌다.

나는 양자컴퓨팅을 지지하는 사람이다. 양자컴퓨팅을 주제로 100편이 넘는 기술논문을 발표했고, 내 밑에서 공부한 박사과정 학생들과 박사후 연구원들 중 상당수는 전 세계 여기저기에서 저명한 양자컴퓨팅 전문가로 활동하고 있다. 그러나 나는 요즘 양자컴퓨팅에 관한 일부 과장광고에 불편함을 느끼고 있다. 과장광고 중에서도 양자컴퓨팅의 상업적인 활용을 주장하는 광고가 특히 불편하게 느껴진다.

양자컴퓨터를 활용할 수 있다고 알려진 분야가 실제로 존재한다. 그중에서 가장 잘 알려진 것은 피터 쇼어(Peter Shor)가 1994년에 알고리즘과 함께 내놓은 이론적 논증이다. 피터 쇼어는 큰 수를 소인수 분해할 때 기존 컴퓨터보다 양자컴퓨터의 처리 속도가 훨씬 빠르다는 것을 이론적으로 증명했다. 소인수 분해는 보편적으로 사용되는 RSA 암호화를 무력화하는 핵심 요소이다. 따라서 쇼어의 소인수 분해 알고리즘은 발표되자마자 각국 정부의 관심을 받았고, 그 덕분에 양자컴퓨팅 연구에 상당한 투자가 이루어지기 시작했다.

그러나 문제가 있었다. 유일한 문제는 그런 일을 해낼 수 있는 양자컴퓨터를 실제로 만드는 일이었다. 양자컴퓨터를 제작하려면 쇼어와 다른 과학자들이 처음 제시했던 ‘양자 오류 정정(quantum-error correction)’을 해내야 한다. 양자 오류 정정이란 양자 상태가 노이즈로 인해 빠르게 사라지는 ‘결어긋남(decoherence)’이라는 현상을 보정하는 과정을 의미한다. 1994년에 과학자들은 물리학을 활용하면 이러한 오류 정정을 쉽게 해낼 수 있을 것이라고 생각했다. 그러나 사실 양자 오류 정정은 극도로 어려운 작업이다.

오늘날 가장 발전한 양자컴퓨터들은 노이즈가 있는 물리적 큐비트(qubit)를 수십 개 가지고 있다. 이런 상황에서 RSA 코드를 해독할 수 있는 양자컴퓨터를 구축하려면 수십억까지는 아니어도 수백만 큐비트가 필요할 것이다. 이러한 큐비트 중 수만 개는 연산에 사용되는 ‘논리적 큐비트(logical qubit)’이며, 나머지는 전부 결어긋남을 보정하는 오류 정정에 필요한 큐비트이다.

오늘날 우리가 가지고 있는 이러한 큐비트 시스템은 대단한 과학적 성과이다. 그러나 이것만으로는 모두가 관심 갖는 문제를 해결할 수 있는 양자컴퓨터 개발에 근접하지 못한다. 이것은 마치 1900년대 초기의 진공관을 이용해서 오늘날 최고 성능의 스마트폰을 만들려고 하는 것과 비슷하다. 마치 100개의 진공관을 조합하고 나서 순조롭게 작동하는 ‘100억 개의 진공관을 확보할 수 있다면 모든 기적을 이룰 수 있다고 생각하는 것이나 다름없다. 그러나 이러한 생각에는 스마트폰으로 발전하는 과정에서 필요한 집적회로와 CPU가 빠져있다. 트랜지스터 발명에서 스마트폰까지 발전하는 과정에는 새로운 물리학의 개입 없이 60년에 걸친 매우 어려운 공학 기술이 필요했다.

사실 이러한 문제를 극복할 아이디어가 몇 가지 존재한다. 그리고 그런 아이디어를 위한 이론을 발전시키는 과정에서 나도 어느 정도 역할을 했다. 그 아이디어란 훨씬 안정적인 큐비트를 사용해 양자 오류 정정 과정을 건너뛰는 ‘위상 양자컴퓨팅(topological quantum computing)’이라는 방식을 말한다. 마이크로소프트가 이 방식을 연구하고 있다. 그러나 위상 양자컴퓨팅 하드웨어 제작도 매우 어려운 일이라는 것이 드러났다. 광범위한 양자 오류 정정과 위상 양자컴퓨팅, 또는 둘을 섞은 하이브리드 중에서 어떤 것이 최종 승자가 될지는 아직 확실히 알 수 없다.

물리학자들은 우리가 잘 알고 있듯이 똑똑하다(물론 나도 물리학자다). 그리고 일부 물리학자들에게는 그럴듯한 두문자어를 생각해내는 능력이 있다. 결어긋남 현상을 제거해야 하는 큰 어려움으로 인해 ‘노이즈 있는 중간 규모의 양자컴퓨터(noisy intermediate scale quantum)’를 의미하는 인상적인 두문자어 ‘NISQ’가 탄생했다. NISQ는 노이즈 있는 물리적 큐비트가 약간 존재하더라도 양자컴퓨터가 고전컴퓨터보다 더 유용하고 나은 일을 할 수 있을 것이라는 생각을 바탕으로 한다. 나는 이 개념을 확신할 수 없다. ‘약간’이라는 것은 도대체 노이즈가 얼마나 존재하는 상태를 말하는 걸까? 얼마나 많은 큐비트를 의미할까? 이것이 왜 컴퓨터일까? NISQ가 해결할 수 있는 가치 있는 문제란 무엇일까?

구글의 최근 실험실에서 진행한 실험에서는 20개의 노이즈 있는 초전도 큐비트를 사용해서 양자역학에서 예측했던 ‘시간 결정(time crystal)’이라는 상태를 확인했다. 이 실험은 매우 인상적인 전자 제어 기술을 보여줬지만, 비슷한 수의 가상 큐비트로 시간 결정을 쉽게 시뮬레이션할 수 있는 기존의 컴퓨터에 비해 양자컴퓨터가 가진 특별한 이점을 보여주지는 못했다. 실험은 또한 시간 결정의 바탕이 되는 기본적인 물리학에 관해서 아무것도 밝히지 못했다. NISQ로 이루어낸 다른 성취로는 랜덤 양자 회로를 시뮬레이션한 최근 실험들이 있다. 그러나 이 실험들 역시 상업적 가치가 없는 상당히 전문적인 작업이었다.

NISQ를 사용하는 것은 분명 훌륭하고 새로운 방식의 기초 연구 아이디어이며, NISQ는 양자역학 같은 기초 분야에서 물리학 연구에 도움을 줄 수 있을 것이다. 그러나 여러 양자컴퓨팅 스타트업들이 NISQ에 관한 광고를 쏟아내고 있는데도 NISQ의 상용화 가능성은 전혀 명확하지 않다. 나는 NISQ를 빠른 최적화나 심지어 AI 학습에 사용할 수 있다는 모호한 주장도 목격하고 있다. 내가 최적화나 AI 전문가는 아니지만, 나는 전문가들에게 질문을 던져왔고 그들도 나처럼 혼란스러워하고 있다. 나는 여러 스타트업의 연구자들에게 NISQ가 어떻게 실세계에서의 활용과 관련된 어려운 작업을 최적화할 수 있는지 물었다. 그리고 나는 그들의 난해한 대답을 “우리가 기존 머신러닝(machine learning)과 AI가 실제로 어떻게 작동하는지 원리를 정확히 이해하고 있지 않듯이 NISQ도 그런 작업을 더 빠르게 처리하는 게 가능할 수도 있다’고 말하는 것으로 해석했다. 그들의 말이 맞을지도 모른다. 하지만 그런 생각은 기술을 생각하는 태도가 아니라 그저 최상의 결과를 희망하는 것일 뿐이다.

빠르게 분자구조를 계산하는 방법으로서 약물 설계에 소규모 양자컴퓨터를 사용하자는 제안도 있다. 그러나 양자화학이 전체 과정에서 극히 일부에 불과하다는 점을 생각하면 이는 이해할 수 없는 제안이다. 이와 유사하게 가까운 미래에 등장할 양자 컴퓨터가 금융 분야에 도움을 줄 거라는 주장도 당황스러운 주장이다. NISQ는 말할 필요도 없고 소규모 양자컴퓨터가 알고리즘 트레이딩이나 리스크 평가, 재정거래, 헤징, 타겟팅과 예측, 자산거래, 리스크 프로파일링 같은 작업을 상당히 최적화할 수 있다는 것을 설득력 있게 입증한 기술논문은 존재하지 않는다. 그러나 확실한 연구 결과가 없는데도 일부 투자 은행들은 양자컴퓨팅에 편승하고 있다.

1947년에 첫 번째 트랜지스터가 만들어졌을 때 누구도 이것이 결국 스마트폰과 노트북으로 이어질 것이라고 예측하지 못했듯이 진정한 양자컴퓨터도 오늘날에는 상상할 수 없는 방식으로 활용될 것이다. 나는 양자컴퓨터가 결국에는 매우 획기적인 기술이 될 것이라고 굳게 믿고 있다. 그렇다고 해도 가까운 미래에 양자컴퓨터가 서비스나 상품을 판매하는 실제 회사에 수백만 달러의 이익을 가져다주기 시작할 것이라는 주장은 나를 매우 당혹스럽게 한다. 대체 어떻게 그런 일이 가능하다는 말일까?

양자컴퓨팅은 실제로 물리학에서뿐만 아니라 모든 과학 영역에서 가장 중요한 발전에 해당한다. 그러나 양자의 ‘얽힘(entanglement)’이나 ‘중첩(superposition)’은 우리가 가까운 미래에 기술을 변화시킬 거라고 기대하며 흔들 수 있는 마법 지팡이가 아니다. 양자역학은 정말 이상하고 반직관적이지만, 그렇다고 양자역학 그 자체가 어떤 수익을 보장하지는 않는다.

10년도 더 전에 나는 언제쯤 진정한 양자컴퓨터가 만들어질 거라고 예측하느냐는 질문을 받곤 했다. (이제는 이런 질문을 받지 않게 된 것이 흥미롭다. 양자컴퓨팅에 관한 과대광고로 인해 사람들이 양자컴퓨터가 이미 존재한다고 믿고 있거나 거의 개발됐다고 생각하게 된 것 같다.) 그런 질문을 받을 때마다 내가 확실하게 답했던 것은 늘 ‘나도 모른다’는 말이었다. 기술의 미래를 예측하는 것은 불가능하다. 기술은 일어날 때 일어난다. 어쩌면 과거와의 유사점을 찾아보려고 하는 사람이 있을 수도 있다. 항공업계가 라이트 형제에서 수백 명의 승객을 태우고 수천 킬로미터를 이동하는 점보제트까지 발전하는 데까지는 60년이 넘는 시간이 걸렸다. 지금 던질 수 있는 질문은 양자컴퓨팅이 과연 어느 정도의 단계에 도달했느냐는 것이다. 1903년의 라이트 형제 수준일까? 1940년대에 첫 번째 제트기가 등장했을 때 정도일까? 어쩌면 아직도 레오나르도 다 빈치가 비행기를 구상했던 16세기 초반에 머무르고 있는지도 모른다. 나는 잘 모르겠다. 아마 그 누구도 알 수 없을 것이다.

• 이 글을 쓴 산카르 다스 사르마(Sankar Das Sarma)는 메릴랜드대학교의 응집물질이론센터(Condensed Matter Theory Center)의 센터장이다.