나노 스케일의 구조물로 빛의 색을 정밀하게 분리하는 차세대 이미지 센서 기술이 오랫동안 넘지 못했던 벽 하나를 허물었다.
KAIST 전기및전자공학부 장민석 교수 연구팀과 한양대학교 정해준 교수 연구팀은 빛이 비스듬히 들어오는 실제 촬영 환경에서도 색 분리 성능이 유지되는 메타물질 기반 나노포토닉 컬러 라우터를 개발했다고 13일 밝혔다. 기존 컬러 라우터는 빛이 12도만 기울어져도 색이 섞이며 성능이 급락했지만, 연구팀이 새롭게 설계한 구조는 ±12도 범위에서도 광효율 78%를 유지했다. 이번 연구는 국제 학술지 《어드밴스드 옵티컬 머티리얼스》 1월 27일자에 게재됐다.
렌즈 없이 빛을 쪼개는 기술, 왜 꺾였나
스마트폰 카메라의 픽셀은 해마다 작아지고 있다. 픽셀이 미세해질수록 빛을 모으는 데 한계가 생기고, 기존의 작은 렌즈만으로는 충분한 빛을 포착하기 어려워진다. 이 문제를 해결하기 위해 등장한 것이 나노포토닉 컬러 라우터다. 머리카락 굵기의 수천 분의 일에 불과한 나노 구조물이 렌즈 대신 빛의 경로를 설계해, 들어온 빛을 적(R)·녹(G)·청(B) 세 가지 색으로 정확히 나누는 방식이다. 삼성전자가 이 원리를 ‘나노 프리즘’이라는 이름으로 이미지 센서에 적용하며 상용화 가능성을 보여준 바 있다.
그러나 이 기술에는 치명적인 약점이 있었다. 빛이 정면, 즉 수직으로 들어올 때는 잘 작동했지만, 실제 사진 촬영처럼 빛이 비스듬히 입사하는 상황에서는 색이 뒤섞이며 성능이 급격히 저하됐다. 이른바 ‘사선 입사 문제’다. 연구팀이 분석한 결과, 기존 설계들이 수직 입사 조건에만 지나치게 최적화되어 있어 입사 각도가 조금만 달라져도 성능이 무너진다는 점이 확인됐다. 스마트폰은 어느 방향에서든 빛을 받아들이기 때문에, 이 문제는 상용화를 가로막는 핵심 장벽으로 꼽혀 왔다.
컴퓨터가 스스로 구조를 찾는다: 역설계의 힘
연구팀이 택한 해법은 ‘역설계(inverse design)’였다. 사람이 직접 구조를 고안하는 대신, 컴퓨터가 목표 성능을 먼저 설정하고 이를 달성하는 최적의 구조를 스스로 탐색하도록 하는 방식이다. 이 과정에서 두 가지 핵심 기법이 활용됐다. 하나는 자동 미분(Automatic Differentiation)이다. 복잡한 수식을 일일이 계산하지 않고도 수치 오차 없이 정확한 미분값을 자동으로 산출하는 기법으로, AI 모델 학습에 쓰이는 역전파(backpropagation)와 같은 원리다. 다른 하나는 경사 하강 최적화(Gradient Descent Optimization)로, 목적 함수의 기울기를 따라 변수를 반복적으로 갱신하며 최적해에 수렴해 가는 방법이다. 두 기법을 결합해 ±12도 범위의 입사각을 설계 조건 자체에 포함시킨 결과, 비스듬한 빛에도 흔들리지 않는 구조를 도출했다.
연구팀은 여기서 한 걸음 더 나아갔다. 메타물질의 층 수, 제작 공정에서 발생할 수 있는 오차, 픽셀 내부 크로스토크(crosstalk)와 픽셀 간 누화 등 실제 양산 환경에서 맞닥뜨릴 변수들을 체계적으로 분석해 성능의 한계를 명확히 정리했다. 단순히 실험실 수준의 성능을 보이는 데 그치지 않고, 실제 제품 적용을 염두에 둔 설계 기준을 제시했다는 점에서 의미가 크다. 장민석 교수는 “이번 연구는 컬러 라우터 기술의 상용화를 가로막아 온 입사각 문제를 처음으로 체계적으로 분석하고 해결 방향을 제시했다”며, “제안한 설계 방법은 컬러 라우터를 넘어 AR·자율주행용 다양한 메타물질 기반 나노광학 소자 전반에 활용될 수 있을 것”이라고 밝혔다.
