SK하이닉스·샌디스크, AI 추론 시대 겨냥한 차세대 메모리 ‘HBF’ 표준화 추진

AI 추론 시대를 겨냥한 차세대 메모리 솔루션의 글로벌 표준화 작업이 본격화됐다.

SK하이닉스와 샌디스크(SanDisk)가 25일(현지 시각) 미국 캘리포니아주 밀피타스에 위치한 샌디스크 본사에서 ‘HBF 스펙(Spec.) 표준화 컨소시엄 킥오프(Kick-Off)’ 행사를 열고, AI 추론 시대를 겨냥한 차세대 메모리 솔루션 HBF(High Bandwidth Flash)의 글로벌 표준화 전략을 발표했다고 26일 밝혔다.

HBF는 초고속 메모리인 HBM과 대용량 저장장치인 SSD 사이에 위치하는 새로운 메모리 계층으로, 추론 영역에서 요구되는 용량 확장과 전력 효율성을 동시에 확보한다. SK하이닉스는 “샌디스크와 함께 HBF를 업계 표준으로 마련해 AI 생태계 전체가 함께 성장할 수 있는 기반을 구축하겠다”며 “OCP(Open Compute Project) 산하에 핵심 과제 전담 워크스트림을 샌디스크와 함께 구성해 본격적인 표준화 작업에 착수한다”고 전했다.

AI 추론 시장의 메모리 공백을 메우는 HBF

최근 AI 산업은 거대언어모델(LLM)을 만드는 ‘학습(Training)’ 단계에서, 실제 서비스를 제공하는 ‘추론(Inference)’ 단계로 무게중심이 빠르게 이동하고 있다. AI 학습은 방대한 데이터로 모델을 훈련시키는 과정으로 주로 데이터센터에서 이루어지며, AI 추론은 학습된 모델을 사용해 실제 질문에 답하거나 예측을 수행하는 단계로 챗GPT 같은 서비스가 대표적이다. AI 서비스를 동시에 사용하는 이용자가 급증하면서 빠르고 효율적인 메모리가 필수적이지만, 기존 메모리 구조만으로는 추론 단계에서 요구되는 대용량 데이터 처리와 전력 효율성을 동시에 충족하기 어렵다.

이러한 한계를 해결할 수 있는 대안으로 등장한 것이 HBF다. HBF는 초고속 메모리인 HBM(High Bandwidth Memory)과 대용량 저장장치인 SSD(Solid State Drive) 사이에 위치하는 새로운 메모리 계층이다. HBM은 GPU와 직접 연결되어 초고속으로 데이터를 주고받는 메모리로, 매우 빠르지만 용량이 제한적이고 가격이 비싸다. 반면 SSD는 대용량 데이터를 저장할 수 있지만 속도가 HBM보다 훨씬 느리다. HBF는 HBM의 뛰어난 성능과 SSD의 대용량 특성 사이의 공백을 메우며, 추론 영역에서 요구되는 용량 확장과 전력 효율성을 동시에 확보한다.

기존 HBM이 최고 수준의 대역폭을 담당하는 가운데, HBF가 이를 보완하는 구조다. 마치 컴퓨터에서 CPU 캐시 메모리(매우 빠름, 작은 용량), RAM(빠름, 중간 용량), HDD/SSD(느림, 큰 용량)가 계층 구조를 이루듯이, AI 시스템에서도 HBM(초고속), HBF(중고속·중대용량), SSD(대용량)의 3단계 메모리 계층이 형성되는 것이다. 특히 HBF는 AI 시스템의 확장성을 높이면서도 전체 운영 비용(TCO, Total Cost of Ownership)을 줄일 수 있을 것으로 예상된다. 업계는 HBF를 포함한 복합 메모리 솔루션에 대한 수요가 2030년 전후로 본격 확대될 것으로 보고 있다.

OCP 워크스트림 통한 생태계 전반 표준화 전략

AI 추론 시장에서는 단일 칩의 성능보다 CPU·GPU·메모리·스토리지를 아우르는 시스템 레벨 최적화가 경쟁력을 좌우한다. 이로 인해 HBM과 HBF를 모두 제공할 수 있는 종합 메모리 솔루션 기업의 역할이 더욱 중요해지고 있다. SK하이닉스와 샌디스크는 이러한 시장 변화에 대응하기 위해 OCP(Open Compute Project) 산하에 워크스트림을 구성하고 본격적인 표준화 작업에 착수했다.

OCP는 세계 최대 개방형 데이터센터 기술 협력체로, 페이스북(현 메타), 마이크로소프트, 구글 등 글로벌 IT 기업들이 참여해 데이터센터 하드웨어와 소프트웨어 설계를 공유하고 표준화하는 조직이다. 워크스트림(Workstream)은 특정 기술 주제를 중심으로 운영되는 OCP 산하 협업 체계로, HBF 워크스트림은 HBF의 기술 사양, 인터페이스 표준, 호환성 가이드라인 등을 개발하고 업계 전반에 보급하는 역할을 담당한다.

SK하이닉스와 샌디스크는 HBM과 낸드(NAND) 분야에서 쌓은 설계·패키징 기술과 대량 양산 경험을 바탕으로 HBF의 빠른 표준화, 제품화를 선제적으로 추진할 계획이다. SK하이닉스는 HBM 시장에서 글로벌 선두를 달리고 있으며, 샌디스크는 낸드 플래시 메모리 분야의 선도 기업이다. 두 회사의 협력은 HBF가 단순한 개별 기술을 넘어 AI 생태계 전체가 활용할 수 있는 산업 표준으로 자리 잡는 데 결정적 역할을 할 것으로 기대된다.

SK하이닉스 안현 개발총괄 사장(CDO, Chief Development Officer)은 “AI 인프라의 핵심은 단일 기술의 성능 경쟁을 넘어, 생태계 전체를 최적화하는 것”이라며 “HBF 표준화를 통해 협력 체계를 구축하고, AI 시대 고객·파트너를 위한 최적화된 메모리 아키텍처를 제시함으로써 새로운 가치를 창출하겠다”고 밝혔다. 이번 표준화 작업은 AI 추론 시장이 본격 성장하는 2030년 전후를 겨냥한 선제적 움직임으로, 메모리 업계의 경쟁 구도를 시스템 레벨 최적화 역량을 중심으로 재편할 것으로 전망된다.