SK하이닉스, HBM 패키지 내 냉각 통로 심어 열저항 30% 줄인 ‘iHBM’ 공개…HBM5부터 적용

HBM이 적층은 높아지고 속도는 빨라지면서 발열도 커져 AI 메모리 확장의 가장 큰 걸림돌이 됐다. 칩 안에 직접 냉각 통로를 심어 이 한계를 정면 돌파하는 기술이 공개됐다.

HBM(고대역폭 메모리) 패키지 안에 일체형 냉각 요소를 직접 심어 발열을 잡는 ‘iHBM’ 기술이 공개됐다. SK하이닉스는 HBM 패키지에 일체형 냉각 요소 ‘ICE(Integrated Cooling Elements)’를 내재해 열저항을 30% 이상 낮춘 차세대 메모리 솔루션 ‘iHBM’을 공개했다고 26일 밝혔다. ICE는 전기는 통하지 않지만 열 전도가 높은 실리콘 소재로, 발열이 가장 집중되는 HBM 베이스다이와 AI 가속기 다이를 연결하는 ‘D2D PHY’ 영역 안에 직접 심어 별도의 열 배출 경로를 만든 것이 핵심이다. 코어 다이를 거쳐 간접적으로 열을 빼던 기존 방식과 달리 전용 열 통로를 만든 셈이다.

AI 가속기에 붙어 데이터를 빠르게 주고받는 HBM은 적층 단수 확대와 고속화로 성능이 빠르게 발전하고 있지만, 그만큼 발열이 차세대 메모리 확장의 가장 큰 걸림돌로 떠올라 있었다. SK하이닉스는 이번 기술을 HBM5 등 차세대 제품부터 적용해 고성능 컴퓨팅(HPC)·AI 데이터센터의 열 관리 수준을 끌어올린다는 계획이다.

HBM 안에 ‘실리콘 냉각 요소’ 직접 심어…발열 집중 지점 D2D PHY에 전용 열 통로

HBM은 D램 칩을 여러 층 쌓아 GPU 같은 AI 가속기 옆에 붙여 데이터를 초고속으로 주고받게 하는 메모리다. AI 연산 수요가 폭증하면서 HBM은 적층 단수가 늘고 동작 속도가 빨라지는 방향으로 빠르게 진화해왔지만, 그만큼 발열도 커져 차세대 메모리의 가장 큰 기술적 걸림돌로 떠올랐다.

가장 뜨거운 지점은 HBM의 베이스다이와 AI 가속기의 고속 다이를 잇는 ‘D2D PHY(Die-to-Die Physical Layer, 두 다이 간 초고속 데이터 통신을 가능하게 하는 물리적 연결 통로)’ 구간이다. 단위 면적당 발열량(발열 밀도)이 가장 집중되는 곳으로, 이 구간의 열을 어떻게 다스리느냐가 차세대 HBM 기술 경쟁력의 핵심으로 부상했다는 게 SK하이닉스의 설명이다.

SK하이닉스가 26일 공개한 ‘iHBM’ 기술의 핵심은 이 발열 집중 구간 안에 일체형 냉각 요소 ‘ICE(Integrated Cooling Elements)’를 직접 심는 것이다. ICE는 전기는 통하지 않지만 열 전도성은 높은 실리콘 소재로 만들어진다. 회로 동작에 간섭하지 않으면서, HBM 패키지 안쪽에 별도의 열 배출 경로(Heat Path)를 만들어주는 부품이다.

기존 간접 냉각 방식 한계 짚어…열저항 30% 줄이고, 검증된 MR-MUF 공정으로 양산성도 확보

기존 HBM은 발열을 처리할 때 D램이 쌓인 코어 다이를 거쳐 외부로 열을 빼는 간접적인 방식에 의존해왔다. 적층이 낮을 때는 큰 문제가 되지 않았지만, 층수가 늘어나고 D2D PHY 구간에서 발열 밀도가 급격히 높아지자 이 간접 경로만으로는 열을 충분히 빼내지 못하는 한계가 드러나기 시작했다.

iHBM은 이 문제를 구조적으로 풀었다. 가장 뜨거운 지점인 D2D PHY 영역 바로 옆에 실리콘 기반 냉각 요소를 심어, 열이 빠져나갈 수 있는 전용 통로를 별도로 만든 것이다. SK하이닉스에 따르면 이 방식으로 기존 대비 열저항(Thermal Resistance, 칩에서 발생한 열이 외부로 빠져나가는 데 부딪히는 저항의 정도)을 30% 이상 낮출 수 있고, 고온·고부하 환경에서도 안정적인 동작 특성을 유지할 수 있다.

iHBM은 이미 시장에서 검증된 ‘Advanced MR-MUF(Mass Reflow Molded Underfill, 적층된 칩 사이에 액체 보호재를 넣어 굳히는 공정)’ 기반 WLP(Wafer Level Packaging, 웨이퍼 상태에서 패키징과 테스트를 한 번에 진행하는 공정) 공정을 그대로 적용해 안정적인 대량 생산이 가능하다. SK하이닉스는 고객사의 기존 SiP(System in Package, 서로 다른 기능의 개별 칩들을 하나의 패키지에 통합하는 기술) 환경과 설계 호환성이 높아, 큰 설계 변경 없이 즉시 적용이 가능해 실질적인 도입 부담도 낮췄다고 강조했다.

HBM5 등 차세대 적용 예고…발열, AI 메모리 확장의 새 경쟁축으로

SK하이닉스는 iHBM 기술을 HBM5 등 차세대 제품부터 적용해 고성능 컴퓨팅(HPC)·AI 데이터센터 같은 초고집적·초고대역폭 환경의 열 관리 수준을 끌어올린다는 계획이다. 시장조사기관 카운터포인트리서치는 HBM5 세대가 2029~2030년경 등장할 것으로 예상하고 있고, 같은 시기 업계는 적층 칩을 범프 없이 구리로 직접 접합하는 ‘하이브리드 본딩’ 방식으로의 전환도 함께 진행될 것으로 보고 있다.

발열 제어는 단순한 부차적 이슈가 아니라 AI 메모리 시장의 새로운 경쟁축으로 떠오르고 있다. HBM은 AI 가속기 칩 옆에 쌓이는 전용 메모리로, 적층이 높아지고 속도가 빨라질수록 발열이 커지며 이 발열이 결국 기술이 어디까지 확장될 수 있는지의 한계를 결정짓는 요소가 되고 있다. 시장 관측에 따르면 경쟁사인 삼성전자와 마이크론은 TC-NCF(열압착 비전도성 필름) 방식을, SK하이닉스는 MR-MUF 기반 공정을 채택하며 각기 다른 패키징 접근으로 발열 문제에 대응 중이다.

이강욱 SK하이닉스 부사장(PKG개발 담당)은 “iHBM은 메모리 설계 역량과 첨단 패키징 기술을 결합해 개발한 발열 최소화를 위한 최적의 솔루션”이라며 “AI 환경에서 고객이 필요로 하는 가치를 선제적으로 제공하며 AI 메모리 리더십을 더욱 공고히 하겠다”고 말했다.