KAIST 화학과 김우연 교수 연구팀이 개발한 ‘리만 확산 모델(R-DM)’은 분자의 안정성을 결정하는 물리 법칙을 스스로 학습해 최적의 분자 구조를 예측하는 인공지능 모델이다. KAIST는 화학 원리 이해한 AI로 분자 구조 예측 정확도 20배 높이는 데 성공했다고 10일 밝혔다.
스마트폰 배터리 수명과 신약 효능은 원자들의 결합이 얼마나 안정적이냐에 달려 있지만, 지금까지 최적의 분자 구조를 찾는 일은 광대한 산맥에서 가장 낮은 골짜기를 찾는 것만큼 어려워 막대한 시간과 비용이 요구됐다.
연구팀은 리만 기하학(평평하지 않은 굽은 공간을 수학적으로 다루는 이론)을 AI에 접목해 이 난제를 해결했다. 실험 결과 R-DM은 기존 AI 대비 최대 20배 높은 정확도를 달성했으며, 예측 오차를 ‘화학 정확도(1 kcal/mol 이하)’—즉 정밀 양자역학 계산과 거의 같은 수준—까지 낮추는 데 성공했다. 이 연구는 세계적 학술지 《네이처 컴퓨테이셔널 사이언스(Nature Computational Science)》에 올해 1월 게재됐다.
기존 인공지능은 평평한 유클리드 공간에서 원자의 좌표를 단순히 이동시키며 구조를 최적화한다(왼쪽). 반면, R-DM은 실제 에너지 지형에 따라 구부러진 리만 공간 위에서 구조를 탐색해, 물리적으로 타당한 에너지 최소화 경로를 찾아
낸다(오른쪽). 오른쪽 그래프는 분자 구조 변화에 따른 실제 에너지 프로파일을 함께 보여준다.
AI가 분자 지도를 ‘에너지 지형’으로 바꿔 읽다
기존 AI 기반 분자 설계 모델의 한계는 분자를 구성하는 원자들의 3차원 좌표를 단순히 모방하는 데 그쳤다는 점이다. 원자 간 거리와 각도를 수치로 맞추는 방식이어서, 실제 화학 반응에서 분자의 안정성을 결정하는 ‘에너지 변화’를 제대로 반영하지 못했다. 이는 지도 위의 두 점 사이를 직선으로 잇는 것처럼 현실의 굴곡을 무시하는 셈이다.
R-DM은 이 문제를 해결하기 위해 분자 구조를 에너지 지형—에너지가 높은 상태는 언덕, 낮은 상태는 골짜기에 해당하는 지도—으로 변환한다. AI는 이 지형 위에서 불안정한 언덕을 피해 가장 낮은 골짜기, 즉 에너지가 최소인 안정 구조를 스스로 찾아간다. 이때 적용된 것이 리만 기하학으로, 에너지 변화에 따라 실제로 ‘구부러진 공간’을 수학적으로 구현한다. 화학의 기본 원리인 ‘물질은 에너지가 가장 낮은 상태를 선호한다’는 법칙을 AI가 스스로 체득한 것이다.
핵심은 R-DM이 단순히 구조를 한 번 예측하고 끝내는 것이 아니라, 에너지를 줄이는 방향으로 구조를 반복적으로 정제한다는 점이다. 마치 등산객이 안개 속에서도 경사를 발로 느끼며 조금씩 낮은 곳을 향해 이동하듯, R-DM은 매 단계마다 에너지가 낮아지는 방향을 계산하며 구조를 다듬는다. 연구팀은 공개 분자 구조 데이터베이스인 QM9를 활용해 성능을 검증했고, 기존 AI 모델 대비 에너지 정확도가 20배 이상 향상됐음을 확인했다. 이는 기존 계산화학의 원리를 따르면서도 그 과정 전체를 AI가 직접 수행한다는 점에서 기존 방법들과 근본적으로 차별화된다.
신약·배터리·화학사고 대응까지, AI 시뮬레이터로 확장
R-DM의 파급 효과는 단순한 정확도 향상에 그치지 않는다. 기존에는 분자 구조를 정밀하게 계산하려면 ‘DFT(밀도 범함수 이론)’라 불리는 양자역학 시뮬레이션에 의존해야 했는데, 이 방식은 슈퍼컴퓨터를 동원해도 수일에서 수주가 걸리는 고비용 작업이다. R-DM은 이 과정을 AI가 직접 대체·보완함으로써 신약 후보 물질 탐색, 차세대 배터리 소재 개발, 고성능 촉매 설계 등 분야 전반의 연구 속도를 획기적으로 단축할 것으로 기대된다.
나아가 연구팀은 R-DM을 ‘AI 기반 디지털 트윈’으로 발전시키는 구상도 제시했다. 디지털 트윈이란 실제 물리·화학 시스템을 가상 공간에 그대로 복제해 다양한 조건을 시뮬레이션하는 기술로, 제조업과 항공·우주 분야에서는 이미 광범위하게 쓰이고 있다. 분자 설계에 이 개념을 적용하면 산업적 규모의 화학 연구를 실험실 밖에서도 수행할 수 있게 되고, 연구 비용과 시간을 대폭 줄일 수 있다.
활용 범위는 산업 안전 분야로도 뻗는다. 화학 물질이 유출되거나 예기치 않게 혼합되는 사고 상황에서는 실험적 검증 자체가 위험하거나 불가능하다. R-DM은 반응 경로와 유해 부산물 생성 과정을 신속히 시뮬레이션할 수 있어, 사고 대응 시간을 줄이는 데도 기여할 수 있다. 김우연 교수는 “인공지능이 화학의 기본 원리를 이해하고 분자의 안정성을 스스로 판단한 첫 사례”라며 “신소재 개발 방식을 근본적으로 바꿀 수 있는 기술”이라고 말했다.
