삼성전자, 가속기 위에 메모리 수직 적층 ‘zHBM’ 공개…AI 메모리 병목 정조준
AI 반도체와 메모리 사이의 데이터 이동 거리를 극단적으로 줄이기 위해, 메모리를 연산 칩 옆이 아니라 그 위에 수직으로 쌓아 올리는 차세대 3D 메모리 구조가 공개됐다.
삼성전자는 미국 캘리포니아주 산타클라라에서 4일부터 열린 세계 최대 메모리 학회 ‘FMS(Future of Memory and Storage) 2026’에서 차세대 3D 메모리 ‘zHBM’과 ‘zNAND-O’의 목업(형태와 기능을 확인하기 위해 만든 모형)을 업계 최초로 공개하고 AI 시대를 이끌 메모리 기술 비전을 제시했다고 5일 밝혔다. 이 발표가 주목받는 배경에는 AI의 발목을 잡는 ‘메모리 병목’이 있다. 오늘날 AI 연산 칩의 속도는 비약적으로 빨라졌지만, 데이터를 저장하는 메모리에서 연산 칩으로 정보를 실어 나르는 통로가 그 속도를 따라가지 못한다. 아무리 빠른 연산 장치가 있어도 데이터가 제때 공급되지 않으면 성능이 정체되는데, 초거대 AI가 다루는 데이터가 폭발적으로 늘면서 이 병목이 갈수록 심각한 과제가 됐다.
삼성전자가 내놓은 해법의 핵심은 ‘거리를 줄이는 것’이다. 메모리와 연산 칩을 물리적으로 더 가깝게, 나아가 수직으로 겹쳐 쌓아 데이터가 오가는 길 자체를 짧게 만든다는 접근이다. 삼성전자는 이날 기조연설에서 400단 이상을 쌓아 올린 차세대 낸드 ‘V10 BV-NAND’도 업계 최초로 공개하며, D램부터 저장장치까지 아우르는 AI 메모리 로드맵을 함께 제시했다.
AI가 메모리에 목마른 이유
AI 반도체의 성능을 결정하는 것은 연산 속도만이 아니다. 그 못지않게 중요한 것이 ‘메모리 대역폭’, 즉 데이터를 얼마나 빠르게 주고받을 수 있느냐다. 초거대 AI 모델은 수천억 개의 값을 반복해서 읽고 쓰는데, 이 데이터가 연산 칩에 제때 도착하지 않으면 아무리 빠른 칩도 놀고 있을 수밖에 없다.
이 문제를 풀기 위해 등장한 것이 HBM(고대역폭 메모리)이다. 여러 개의 D램을 수직으로 쌓아 올려 한 번에 많은 데이터를 주고받도록 만든 고성능 메모리로, 최근 AI 반도체의 필수 부품으로 자리 잡았다. 하지만 삼성전자는 AI 인프라가 확산되면서 요구되는 성능 수준이 높아져, 기존 HBM 방식만으로는 한계에 다다르고 있다고 진단했다.
한계의 핵심은 ‘배치 방식’에 있다. 지금까지는 AI 가속기(연산을 담당하는 칩) 옆에 HBM을 나란히 두는 방식이 일반적이었다. 이 경우 데이터가 메모리에서 가속기까지 옆으로 이동해야 하는데, 그 거리가 대역폭과 전력 효율을 제약하는 요인으로 작용했다.
삼성전자가 제시한 발상의 전환은 메모리를 옆이 아니라 ‘위’에 두는 것이다. 데이터가 오가는 물리적 거리를 근본적으로 줄이면 대역폭은 높이고 전력 소모는 낮출 수 있다는 것이다. 이 아이디어를 구현한 것이 이번에 공개한 zHBM이다.
가속기 위에 메모리를 쌓다
zHBM은 AI 가속기 상단에 HBM을 수직으로 적층하는 차세대 구조다. 가속기 옆에 메모리를 붙이던 기존 방식에서 한 단계 더 나아가, 아예 위로 겹쳐 쌓아 데이터 이동 거리를 최소화한 것이다. 이를 통해 대규모 AI 모델의 학습과 추론에 필요한 초고속 데이터 처리를 지원한다는 구상이다.
삼성전자가 제시한 성능 수치는 상당하다. 회사에 따르면 zHBM이 적용된 차세대 인터페이스 시스템은 차세대 규격인 HBM5 대비 최대 8배 높은 성능을 낸다. 또 짧아진 데이터 이동 거리 덕분에 전력 대비 성능(전성비)을 최대 3배 높이고, 열이 빠져나가는 것을 방해하는 열 저항을 절반 이상 낮춰 안정성과 전력 효율을 끌어올린다고 밝혔다.
zHBM의 또 다른 특징은 ‘고객 맞춤형 설계’가 가능하다는 점이다. 메모리와 AI 가속기 사이에 있는 중간층(인터레이어)에 맞춤형 IP(반도체의 특정 기능을 회로로 구현한 설계 블록)를 추가해, 메모리 용량을 늘리거나 가속기 성능을 강화하는 식으로 제품 특성을 최적화할 수 있다. 획일적인 부품이 아니라 고객의 필요에 맞춰 조율하는 메모리인 셈이다.
낸드 분야에서도 3D 적층 비전이 제시됐다. 개발 중인 ‘zNAND-O’는 기존 V-NAND의 수직 적층 기술에 TSV(칩을 수직으로 관통해 연결하는 전극) 기술을 결합해 여러 칩을 3D로 묶은 제품이다. 제품명 끝의 ‘-O’는 기기 자체에서 AI를 구동하는 ‘온디바이스 AI’ 환경에 최적화됐다는 의미로, 실시간 대규모 데이터 처리가 필요한 환경을 겨냥한다.
400단으로 쌓는 낸드, 그리고 로드맵
이날 기조연설의 또 다른 하이라이트는 ‘V10 BV-NAND’다. 수직으로 400단 이상을 쌓아 올린 10세대 V-NAND로, 삼성전자가 업계 최초로 공개했다. 낸드플래시는 데이터를 저장하는 비휘발성 메모리인데, 같은 면적에 더 많은 데이터를 담으려면 저장 단위를 위로 높이 쌓아 올려야 한다. 여기서 ‘단(段)’은 쌓아 올린 층수를 뜻한다.
400단이라는 높이는 기존 방식만으로는 구현하기 어렵다. 삼성전자는 이를 위해 ‘웨이퍼 본딩’ 기술을 적용했다. 셀(데이터 저장 부분)과 회로를 따로 만든 뒤 두 장 이상의 웨이퍼를 수직으로 접합하는 방식으로, 제품명의 ‘BV’는 이 수직 접합(Bonding Vertical)을 뜻한다. 여기에 셀을 세 덩어리로 나눠 각각 만든 뒤 이어 붙이는 ‘3 스택’ 기술을 더해 초고적층을 달성했다.
효과는 집적도로 나타난다. 삼성전자에 따르면 V10 BV-NAND는 메모리 집적도를 이전 세대(V9)보다 약 58% 높여, 같은 면적에 더 많은 데이터를 저장할 수 있다. 단순히 층수만 늘린 것이 아니라 데이터 읽기·쓰기 성능과 입출력(I/O) 속도도 함께 개선했다는 설명이다. 이는 13년 전 같은 행사에서 세계 최초로 V-NAND 기술을 발표한 이후 이어온 적층 기술 혁신의 연장선에 있다.
삼성전자는 개별 신제품을 넘어 AI 메모리 전반의 로드맵도 공유했다. 차세대 HBM4E와 HBM5, 메모리 내부에서 직접 연산을 수행해 데이터 이동을 줄이는 ‘LPDDR5X-PIM’, 기업용 SSD 등 폭넓은 포트폴리오를 함께 제시했다. 회사는 메모리와 로직, 파운드리(위탁생산), 첨단 패키징을 모두 갖춰 설계부터 양산까지 통합 지원하는 ‘원스톱 솔루션’을 강점으로 내세우며, 이를 바탕으로 AI 시대의 반도체 기술 리더십을 이어가겠다고 밝혔다. 다만 zHBM과 zNAND-O는 아직 목업 단계로, 제시된 성능이 실제 양산 제품에서 구현되기까지는 시간이 필요하다.
