삼성전자, GTC서 HBM4E 실물 세계 최초 공개…엔비디아 차세대 플랫폼 메모리 단독 공급

차세대 AI 가속기용 고대역폭 메모리인 HBM4E(High Bandwidth Memory 4 Extreme)의 실물 칩과 코어 다이 웨이퍼가 세계 최초로 공개됐다.

삼성전자는 3월 16일부터 19일까지 미국 새너제이에서 열리는 엔비디아 GTC에 참가해 1c D램 공정과 자체 파운드리 4나노 베이스 다이 설계 역량을 결합한 HBM4E 실물을 처음 선보이고, 전 세계에서 유일하게 엔비디아 차세대 플랫폼 ‘Vera Rubin’에 탑재될 모든 메모리와 스토리지를 적기에 공급할 수 있는 역량을 갖춘 기업임을 17일 밝혔다.

IDM의 힘: 메모리·파운드리·패키징을 한 기업이 아우른다

HBM(High Bandwidth Memory, 고대역폭 메모리)은 여러 장의 D램 칩을 수직으로 쌓아 GPU와 매우 넓은 데이터 통로로 연결하는 메모리다. 일반 D램보다 데이터를 훨씬 빠르게 주고받을 수 있어 AI 연산을 처리하는 GPU의 핵심 부품으로 자리 잡았다. HBM4E는 현재 양산 중인 HBM4의 다음 세대 규격으로, 더 빠른 속도와 더 넓은 대역폭을 목표로 개발되고 있다.

삼성전자는 HBM4 양산을 통해 축적한 1c D램 공정 기반의 기술 경쟁력과 자체 파운드리(Foundry, 반도체 위탁생산) 4나노 베이스 다이(Base Die, HBM 적층 구조의 맨 아래에 위치하며 데이터 입출력을 담당하는 핵심 칩) 설계 역량을 바탕으로 HBM4E 개발을 가속화하고 있음을 밝히고, HBM4E 실물 칩과 코어 다이 웨이퍼를 이번 전시에서 세계 최초로 공개했다. 삼성전자 HBM4E는 메모리·로직 설계·파운드리·첨단 패키징 등 부문 내 모든 역량을 결집한 최적화 협업을 통해 핀당 16Gbps 속도와 4.0TB/s 대역폭을 지원할 예정이다.

삼성전자는 이번 GTC에서 ‘HBM4 Hero Wall’을 마련해 Vera Rubin 플랫폼에 탑재될 HBM4 칩과 파운드리 4나노 베이스 다이 웨이퍼를 전면에 배치했다. 메모리 설계부터 파운드리, 첨단 패키징까지 통합한 종합반도체 기업(IDM, Integrated Device Manufacturer)만의 토털 솔루션 구조를 통해 개발 효율을 강화하고, 고성능 HBM 시대에서도 기술 선순환 구조를 구축하겠다는 전략이다.

열 저항 20% 낮추고 16단 이상 쌓는다: 차세대 HCB 패키징 공개

반도체 칩을 수직으로 여러 겹 쌓는 HBM 구조에서는 칩과 칩을 어떻게 접합하느냐가 성능과 수율을 좌우하는 핵심 과제다. 기존에 널리 쓰이던 TCB(Thermal Compression Bonding, 열압착 본딩)는 열과 압력을 이용해 칩을 접합하는 방식으로, HBM 적층 구조에 사용되는 대표적인 패키징 기술이다. 그러나 적층 단수가 높아질수록 열 관리와 접합 정밀도 확보가 점점 어려워지는 한계가 있다.

삼성전자는 이번 GTC에서 차세대 패키징 기술인 HCB(Hybrid Copper Bonding, 하이브리드 구리 본딩)를 영상을 통해 공개했다. HCB는 구리 접합을 기반으로 칩을 직접 연결하는 방식으로, TCB 대비 열 저항을 20% 이상 개선하고 16단 이상의 고적층을 지원한다. 칩을 더 많이 쌓을수록 심화되는 발열 문제를 패키징 방식의 혁신으로 해결하는 접근이다.

HCB 기술은 차세대 HBM이 더 높은 적층 수와 더 빠른 속도를 향해 나아가는 데 필요한 핵심 기반 기술로 평가된다. 삼성전자는 메모리 공정과 파운드리, 첨단 패키징 기술을 모두 내재화한 IDM 구조를 통해 이러한 기술들의 통합 최적화를 이어가며, HBM4E에서도 성능과 품질을 압도하는 기술력을 구현한다는 계획이다.

베라 루빈 전용 메모리 토털 솔루션: 전 세계 유일 공급 역량

삼성전자는 이번 전시에서 엔비디아 차세대 AI 플랫폼 ‘베라 루빈(Vera Rubin)’에 탑재되는 모든 메모리와 스토리지를 전 세계에서 유일하게 적기에 공급할 수 있는 역량을 강조했다. 별도로 마련한 ‘Nvidia Gallery’ 존에는 Rubin GPU용 HBM4, Vera CPU용 SOCAMM2, 서버용 스토리지 PM1763이 Vera Rubin 플랫폼과 함께 전시됐다. SOCAMM2는 LPDDR(저전력 D램) 기반 서버용 메모리 모듈로 품질 검증을 완료하고 업계 최초로 양산 출하를 시작했다.

서버용 SSD인 PM1763은 PCIe Gen6(PCI Express 6세대, 칩과 스토리지를 잇는 고속 인터페이스의 최신 규격) 기반 제품으로 Vera Rubin 플랫폼의 메인 스토리지로 공급될 예정이다. 삼성전자는 전시 부스에서 PM1763이 탑재된 서버로 엔비디아 SCADA(SCaled Accelerated Data Access, GPU가 CPU 병목 현상을 우회해 스토리지 입출력을 직접 시작하고 제어하는 기술) 워크로드를 직접 시연해 현장에서 성능을 체감할 수 있도록 했다. AI 추론 과정에서 생성되는 KV Cache 데이터를 GPU 메모리 밖의 스토리지로 확장하는 CMX(Context Memory eXtension) 플랫폼에는 PCIe Gen5 기반 서버용 SSD PM1753을 공급할 계획이다.

한편 행사 둘째 날인 3월 17일(현지시간)에는 엔비디아의 특별 초청으로 송용호 삼성전자 AI센터장이 발표에 나서 AI 인프라 혁신을 이끌 엔비디아 차세대 시스템의 중요성과 삼성의 메모리 토털 솔루션 비전을 제시한다. 삼성전자는 이러한 협력이 단순한 기술 협력을 넘어 AI 인프라 전반으로 확대되고 있으며, 양사가 글로벌 AI 인프라 패러다임 전환을 함께 이끌어 갈 것이라고 밝혔다.