2020년 가을, 과학자들이 수십 년간 붙들고 있던 문제가 눈앞에서 풀렸다. 단백질을 이루는 아미노산 서열만 보고 그 입체 구조를 몇 시간 만에 알아맞힌 결과였다. 스위스 바젤에서 열린 단백질 구조예측 국제평가(CASP) 회의에서 결과를 남보다 먼저 확인한 석차옥 교수는 충격을 받았다. 구글 딥마인드의 알파폴드가 기존 방법을 크게 뛰어넘었기 때문이다. 그 뒤 두 달 동안 그의 머릿속을 떠나지 않은 질문은 두 가지였다. ‘어떻게 이렇게 잘했을까, 그리고 이제 무엇이 가능해질까.’

그 질문은 이제 ‘AI for Science’라는 더 큰 흐름으로 이어지고 있다. AI는 논문을 정리하고 계산을 돕는 수준을 넘어, 방대한 과학 데이터에서 규칙을 찾고 자연현상을 예측하며 가설과 실험까지 설계하는 단계로 들어섰다. 바이오 분야에서는 유전자 변화가 세포에 미칠 영향을 예측하고, 약물에 대한 세포의 반응을 가늠하며, 자연에 없던 단백질과 항체까지 설계한다.

그러나 AI가 수천 개의 가설을 만들고 수많은 분자를 설계한다고 해서 과학이 저절로 전진하는 것은 아니다. 무엇을 실험할지 고르고, 그 결과가 왜 중요한지 판단하고, 다음 질문을 만드는 일은 여전히 사람의 몫으로 남는다. 석차옥 갤럭스 대표는 AI가 과학을 바꾸는 모습을 지켜보며 “미래의 과학은 새로운 과학 AI와 AI 에이전트가 함께 발전하고, 그 과정에서 과학과 AI가 공진화하는 방향으로 나아갈 것”이라고 말했다. 20여 년간 단백질 구조를 연구했고, AI로 자연에 없던 항체를 설계하는 그를 만나 AI가 과학을 어떻게 바꾸고 있는지, 그리고 그 다음 단계는 어디에 있는지 물었다.

수식의 시대에서, 데이터의 시대로

Q. 화학을 공부하던 학생이 컴퓨터로 생명의 구조를 푸는 연구자가 되었습니다. 

어릴 때부터 자연의 원리에 강한 경이를 느꼈습니다. 고등학생 시절 새벽 등굣길에 떠 있던 커다란 회색 달을 보며, 지구 위에 선 나와 저 멀리 떨어진 달이 하나의 물리 법칙으로 연결돼 있다는 사실에 설명하기 어려운 짜릿함을 느꼈고, 그 경이가 저를 연구자의 길로 이끌었습니다. 분자의 구조가 곧 그 성질과 기능의 근원이라는 것은 현대 화학의 가장 중요한 원리인데, 생명에서 핵심 기능을 수행하는 분자가 바로 단백질입니다. 분자과학자에게 단백질 구조 연구는 자연스러운 선택이었고, 구조를 이해해 생명 현상의 원리를 밝히고 그 이해로 질병 치료법을 개발하는 일은 제겐 따로 떨어진 과제가 아니라 하나로 이어진 길이었습니다. 제가 생각하는 진정한 이해란 현상을 관찰하는 데 그치지 않고, 실험하지 않아도 계산만으로 그 현상을 예측할 수 있는 것입니다.

Q. 수십 년은 더 걸릴 거라던 난제가 풀린 사건이 있었습니다. 알파폴드를 심사하는 자리에 계셨다고요.

정확히는 알파폴드 1과 2가 나온 2018년과 2020년 단백질 구조예측 국제평가(CASP)의 한 분야 평가위원으로 결과를 먼저 들여다봤습니다. 당시 이 분야는 데이터가 늘며 성능은 조금씩 좋아져도 방법론 자체의 혁신이 멈춰 있던 시기였습니다. 그래서 2020년 가을 스위스 바젤의 평가단 회의에서 오랜 난제가 사실상 풀렸음을 확인했을 때, 충격이 매우 컸습니다. 남들보다 두 달 먼저 알았을 뿐인데, 두 달 내내 ‘그들은 왜 그렇게까지 잘했고, 그다음엔 무엇이 가능한가’라는 물음에 사로잡혀 있었습니다. 그때까지 저는 수식이라는 해석적 언어로 원리를 먼저 만들고, 그 수식으로 현상을 기술하는 전통 방식이 자연을 이해하는 표준이라는 생각을 해왔는데, 이 자체가 일종의 편견일 수 있다는 점을 깨달았습니다. 방대한 데이터에서 원리를 직접 학습하는 접근이 훨씬 효과적일 수 있다는 것을 적어도 복잡한 생체분자 시스템에서는 알파폴드가 증명했습니다. 그 이후로 저는 이 깨달음을 제 연구와 AI 개발에 녹이고 있습니다.

더 똑똑한 에이전트가 ‘다음’은 아니다

Q. 2020년은 대규모 딥러닝이 과학의 문제 풀이 방식 자체를 바꾸기 시작한 시기였습니다. 지금은 AI가 스스로 가설을 세우고 실험까지 설계하게 되었습니다.

솔직히 알파폴드 때보다 덜 흥분하고 있습니다. 제가 본질적 원리와 새로운 패러다임에 더 끌리는 연구자여서일 텐데, 스스로 가설을 세우고 실험을 설계하는 에이전트는 사실 언어모델 발전의 자연스러운 연장선이라 충분히 예상됐던 방향입니다. 에이전트가 가장 빠르게 발전하는 곳은 코딩처럼 논리와 규칙이 명확한 영역이고, 화학과 생명과학은 그보다 훨씬 복잡합니다. AI는 방대한 문헌에서 인간이 놓친 연결고리를 찾아 대학원생 수준, 때로는 그 이상의 가설을 내놓습니다. 다만 과학을 크게 진보시키는 좋은 가설이 되려면 두 가지 조건이 필요합니다. 제한된 시간 안에 실험으로 검증할 수 있어야 하고, 그 결과가 새로운 의미를 지녀야 합니다. 그럴듯한 가설과 과학을 진짜로 전진시키는 가설 사이에는 큰 차이가 있죠. 게다가 현실의 병목은 가설이 아니라 실험입니다. AI가 수천 개의 가설을 쏟아내도 실제 검증에는 여전히 비용과 시간, 사람의 판단이 들고 무엇을 먼저 검증할지는 결국 연구자가 고르게 됩니다. 저는 궁극적으로는 AI가 최고 수준의 과학자가 가진 통찰에 도달하거나 심지어 그것을 넘어설 수 있다고 생각합니다. 기존 문헌과 데이터 학습 방식으로는 한계가 있습니다. 특히 난제라고 부르는 문제들을 풀기 위해서는 기존 지식을 재조합하는 것을 넘어 새로운 관점과 창의적 접근이 필요합니다.

Q. 그렇다면 ‘에이전트의 다음’은 무엇이라고 보십니까.

지금 주목받는 에이전트는 기존의 지식과 데이터, 다양한 도구를 연결하는 역할에 가깝습니다. 그것만으로도 연구 생산성은 크게 오르지만, 제가 더 기대하는 것은 알파폴드처럼 풀 수 없던 문제를 풀게 만드는 새로운 ‘도구’의 등장입니다. 알파폴드가 성공한 데는 구조 예측이라는 명확히 정의된 문제가 있었고, 그것을 재는 실험 기술이 수십 년간 쌓였으며, 그렇게 축적된 양질의 데이터가 공개돼 있었기 때문입니다. 앞으로 더 중요한 것은 단백질 하나를 넘어서는 문제입니다. 생명체는 수많은 분자가 서로 신호를 주고받는 복잡한 시스템인데, 우리는 개별 부품에 대해서는 많이 알아도 그것들이 어떻게 엮여 생명 현상을 만들어내는지는 아직 거의 모릅니다. 그래서 단백질 구조 예측 다음에는 세포·조직·면역계 같은 상위 수준의 생체 시스템을 이해하고 예측하는 새로운 AI가 필요하고, 거기서는 새 모델이 생명을 이해하는 능력을 제공하고 에이전트가 그 모델과 데이터, 실험 도구를 연결하는 역할을 맡게 됩니다. 결국 미래의 과학은 하나의 강력한 에이전트가 끌고 가기보다, 새로운 과학 AI와 에이전트가 함께 진화하는 공진화의 길을 갈 겁니다. 에이전트의 다음 단계는 미지의 현상을 새롭게 이해하게 해줄 도구들과의 결합에 있습니다.

Q. AI가 인간이 따라잡기 힘든 통찰을 내놓을 때, 그것을 ‘이해했다’고 할 수 있을까요.

저는 일관되게 잘 예측할 수 있다면 그것은 잘 이해하고 있는 것과 본질적으로 크게 다르지 않다고 봅니다. 과학의 역사에서도 이해의 수준은 결국 예측 능력으로 검증되어 왔으니까요. 그러니 AI가 인간과 똑같은 방식으로 이해해야만 유용한 것은 아닙니다. 결과만 던지는 것이 아니라 그 결과가 도출된 근거와 예측의 신뢰도, 나아가 스스로의 한계까지 함께 제시하도록 설계할 수 있다면, 충분히 신뢰할 만한 과학적 도구로 쓸 수 있습니다. 

읽는 AI에서, 빚는 AI로

Q. 알파폴드가 이미 있는 단백질을 ‘읽어냈다’면, 갤럭스는 자연에 없던 단백질을 ‘빚기’위해 세우셨다고 하셨습니다. 

이미 존재하는 단백질을 이해하는 일은 자연에 없던 새 단백질을 설계하고, 그것이 기존 단백질의 기능을 원하는 방식으로 조절하게 만드는 토대가 됩니다. 알파폴드 같은 혁신은 단백질 설계 혁신의 밑바탕이 됐고, 알파폴드와 함께 2024년 노벨화학상의 절반을 차지한 로제타 기반 단백질 설계 기술이 그 가치를 인정받은 것도 그래서입니다. 그 다음은 당연히 치료제가 될 분자를 설계하는 일이었고, 갤럭스는 치료제로서 가장 중요한 모달리티인 항체를 AI로 설계하게 된 세계 최초 수준의 기관 중 하나입니다. 전통적 신약 개발이 원하는 기능을 가진 물질을 대규모 실험으로 ‘찾아내는’ 과정이었다면, 갤러스의 디노보(de novo) 설계는 처음부터 원하는 기능과 조건을 만족하도록 물질을 ‘직접 설계하는’ 접근입니다. 그래서 시간과 비용을 크게 줄일 뿐 아니라, 궁극적으로는 성공 확률 자체를 끌어올릴 수 있습니다.

Q. 잘 결합하는 항체와 실제 치료제가 되는 항체는 무엇이 다릅니까.

항체가 표적에 잘 결합한다고 해서 곧바로 약이 되는 것은 아닙니다. 치료제가 되려면 표적에 강하고 선택적으로 결합해야 할 뿐 아니라, 그 결합이 원하는 생물학적 기능으로 이어져야 합니다. 특정 단백질 간 결합을 막거나, 수용체의 특정 상태를 안정화하거나, 질병 환경에서만 작동하도록 조절하는 능력이 중요합니다. 체내 안정성, 생산 가능성, 면역원성 같은 조건도 함께 고려해야 합니다.

디노보 설계의 핵심은 단순히 결합하는 항체를 찾는 것이 아니라, 처음부터 원하는 기능과 조건을 만족하는 분자를 설계하는 데 있습니다. 물론 설계만으로 끝나는 것은 아닙니다. 실제 생물학적 환경에서 의도한 기능을 보이는지 검증하는 과정이 반드시 필요합니다. 앞으로의 과제는 결합 예측을 넘어 기능과 안전성까지 함께 설계하는 것입니다.

Q. 갤럭스의 다음 단계는 무엇입니까.

AI 기반 신약설계에 대한 관심이 급격히 커졌고, 글로벌 빅테크와 해외 벤처기업들도 본격적으로 뛰어들고 있습니다. 갤럭스는 상대적으로 제한된 자금과 GPU 자원으로 경쟁해야 하지만, 여러 글로벌 제약사와 협력 논의를 진행하고 있고 기술 검증도 이어가고 있습니다.
중요한 것은 실제로 가치 있는 치료제를 만들어낼 수 있는가입니다. 단기적으로는 AI 기반 신약설계 기술을 더 고도화하고, 이를 통해 실제 신약개발 성과를 만들어내는 것이 목표입니다. 지금 저희가 설계하고 검증하고 있는 여러 후보물질 가운데 일부는 미래의 치료제가 될 가능성이 높다고 생각합니다.
장기적으로는 AI 신약설계 기술을 보다 넓은 의미의 바이오 AI, 즉 생명현상을 이해하는 AI와 융합하고자 합니다. 단순히 분자를 설계하는 것을 넘어 질병의 원인을 이해하고, 어떤 환자에게 어떤 치료제가 가장 효과적인지까지 예측할 수 있어야 합니다. 저는 AI가 신약 개발의 속도를 높이는 수준을 넘어, 신약 개발의 성공률 자체를 바꾸게 될 것이라고 생각합니다. 갤럭스의 다음 단계는 바로 그 변화를 실제 치료제 개발 성과로 증명하는 것입니다.

Q. AI가 생명을 직접 빚는 시대, 사람 과학자가 끝까지 놓지 말아야 할 것은 무엇입니까.

AI가 발전하면서 다른 분야와 마찬가지로 과학자의 역할도 달라질 것입니다. AI가 과학적 탐구 과정의 상당 부분을 맡게 되더라도, 무엇이 중요한 문제인지, 어떤 방향으로 탐구해야 하는지, 그 결과가 어떤 의미를 갖는지를 판단하는 일은 여전히 사람의 몫입니다. 이미 잘 정의된 문제는 AI가 점점 더 잘 풀겠지만, 무엇이 부족한지조차 모르는 난제는 끝까지 남습니다. 그런 영역에서는 문제를 풀 수 있는 형태로 정의하고, 새로운 관점을 제시하며, 얻어진 결과의 의미를 판단해 나아갈 방향을 찾는 능력이 중요합니다.
젊은 연구자에게는 특정 기술이나 도구에 자신을 너무 빨리 가두지 말라고 말하고 싶습니다. AI와 과학 모두 발전의 여지가 무궁무진한 만큼, 가장 중요한 것은 기술 자체가 아니라 자연을 향한 호기심과 근본적인 질문입니다. 그리고 무엇보다 과학과 기술이 발전하는 시대에 그 성과를 인간답게 쓰는 사회를 만드는 일입니다. 우리에게 정말 중요한 것이 무엇이고 우리는 무엇을 위해 진보하려 하는지를 잊지 않는 것, 그것이 앞으로의 과학자가 끝까지 놓지 말아야 할 가장 중요한 가치라고 생각합니다.

석차옥 대표는 서울대 화학부 교수이자 갤럭스 창업자다. 서울대 화학과를 졸업하고 미국 시카고대에서 박사 학위를 받은 뒤, 2004년 서울대 화학부 교수로 부임해 이론·계산화학으로 단백질 구조와 기능을 원자 수준에서 예측하는 연구에 천착했다. 분자모델링 소프트웨어 ‘GALAXY(갤럭시)’로 단백질 구조예측 국제평가(CASP) 등에서 최상위 성적을 냈고, 2020년 이연구를 기반으로 제자들과 갤럭스를 창업해 현재 AI 기반 항체 설계와 신약 개발을 이끌고 있다.

박수연 수석기자 pksyn@technologyreview.kr