KAIST, AI 데이터센터 전력 문제 푼다…효율·속도 잡은 차세대 광변조기 개발

AI 서비스가 폭발적으로 늘면서 데이터센터가 먹는 전력과, 칩끼리 데이터를 주고받는 과정의 병목이 함께 커지고 있다. 그 해법으로 떠오른 것이 전기 신호를 빛으로 바꿔 더 적은 전력으로 더 많은 데이터를 나르는 ‘광(光) 통신’이다.

전기 신호를 빛 신호로 바꿔 데이터를 전송하는 핵심 소자인 광변조기에서, 효율과 속도를 동시에 끌어올린 차세대 기술이 개발됐다. KAIST는 전기및전자공학부 김상현 교수 연구팀이 한국과학기술연구원(KIST) 한재훈 박사, 한국나노기술원(KANC) 김종민 박사 및 삼성전자 패키징사업부와 협업해, 서로 다른 반도체 소재의 장점을 결합한 차세대 광변조기를 개발했다고 23일 밝혔다.

광변조기(optical modulator)는 전기 신호를 빛 신호로 바꿔 데이터를 전송하는 장치로, 그 성능이 데이터센터의 전송 속도와 전력 효율을 좌우한다. 이번 성과는 더 적은 전력으로 더 많은 데이터를 빠르게 보낼 수 있게 해, 전력 소모와 데이터 전송 병목에 시달리는 AI 데이터센터의 핵심 기반 기술이 될 것으로 기대된다.

AI 데이터센터의 두 가지 짐, 전력과 병목

AI 데이터센터에서는 수많은 서버와 반도체 칩이 대용량 데이터를 실시간으로 주고받는다. 이 과정에서 전기 신호를 빛으로 바꿔 보내는 광변조기의 성능은 전송 속도와 전력 효율을 결정하는 핵심 요소다. AI 서비스가 폭발적으로 늘수록 이 부담은 커진다.

그러나 기존 실리콘 기반 광변조기는 한계가 뚜렷했다. 높은 발열과 온도 변화에 취약했고, 무엇보다 효율을 높이면 속도가 떨어지고 속도를 높이면 효율이 감소하는 상충 관계를 안고 있었다. 두 마리 토끼를 동시에 잡기 어려웠던 것이다.

이는 단순한 성능 문제가 아니라 데이터센터 설계의 부담으로 이어진다. 효율이 낮으면 더 많은 전력이 필요하고, 속도가 낮으면 데이터 병목이 생긴다. 전력 소비와 데이터 전송 병목이라는 AI 데이터센터의 두 가지 과제가 바로 여기서 맞물린다. 연구팀이 효율과 속도를 함께 끌어올리는 데 집중한 이유다.

실리콘에 특수 반도체를 ‘덧붙여’ 한계를 깨다

연구팀의 출발점은 두 소재의 장점을 합치는 것이었다. 온도 변화에 강한 마하-젠더(Mach-Zehnder) 구조(빛의 경로 차이를 이용해 신호를 제어하는 광소자 구조)를 유지하면서, 빛이 지나가는 통로인 실리콘 도파로(導波路) 위에 전기·광학적 반응성이 뛰어난 인화물계 반도체(InGaAsP) 박막을 결합했다. 기존 실리콘 위에 빛을 더 민감하게 제어하는 특수 반도체를 덧붙인 셈으로, 소자 크기는 줄이면서도 빛 신호를 더 효율적으로 제어할 수 있게 했다.

문제는 이 구조에 또 다른 상충이 숨어 있었다는 점이다. 효율을 높이면 소자 내부에 전하가 쌓여 구동 속도가 느려진다는 것이 그동안 학계의 한계였다. 연구팀은 두 가지 방법을 결합해 이를 풀었다. 소자 내부의 충전 용량을 줄여 속도를 높이는 공핍(Depletion) 모드 구동과, 전압이 가해질 때 물질의 빛 흡수 특성이 변하는 프란츠-켈디시(Franz-Keldysh) 효과를 함께 활용한 것이다.

공핍 모드로 속도 확보에 유리한 조건을 만들면서, 그로 인해 줄어드는 변조 능력은 프란츠-켈디시 효과로 보완하는 방식이다. 서로 다른 두 메커니즘을 짝지어, 효율과 속도가 서로의 발목을 잡던 구조를 풀어낸 것이 이번 연구의 핵심이다.

500μm 소자에서 효율·속도 동시 달성

그 결과는 작은 소자에서 나왔다. 머리카락 굵기보다 수십 배 작은 500마이크로미터(μm) 길이의 초소형 소자에서, 적은 전력으로 빛 신호를 효과적으로 제어하는 정도를 나타내는 변조 효율(0.146 V·cm)과 데이터를 빠르게 처리하는 정도를 나타내는 구동 대역폭(26.3GHz)을 동시에 달성했다. 연구팀은 이를 세계 최고 수준의 효율과 고속 구동을 함께 이룬 성과로 설명한다.

이 성과의 의미는 두 성능을 동시에 잡았다는 데 있다. 더 적은 전력으로 더 많은 데이터를 빠르게 전송할 수 있다는 뜻으로, AI 데이터센터의 에너지 효율과 데이터 처리 성능을 함께 높일 수 있는 수준이다. 특히 소형화와 저전력 특성을 바탕으로, 반도체 칩과 광통신 부품을 하나의 패키지에 통합하는 공동 패키지 광학(CPO, Co-Packaged Optics)의 핵심 부품으로 활용될 것으로 기대된다.

김상현 교수는 “이번 성과는 광변조기의 효율과 속도를 동시에 높인 것으로, 차세대 AI 데이터센터와 초고속 광통신 시스템에 활용될 수 있을 것으로 기대한다”고 말했다. 이번 연구는 KAIST 전기및전자공학부 강동길 박사과정생이 제1저자로 주도했으며, 연구 성과는 반도체 소자 분야 국제학회인 ‘VLSI 심포지엄(VLSI Symposium on Technology and Circuits)’에서 지난 6월 17일 발표됐다. 논문 제목은 ‘Depletion-Mode III-V/Si SISCAP Mach-Zehnder Modulator Breaking the Efficiency-Bandwidth Trade-Off for Co-Packaged Optics’다.