SK하이닉스, AI 메모리 해법 ‘계층형 아키텍처’ 제시…데이터 이동 최소화가 관건
AI 인프라의 경쟁력이 개별 메모리 제품의 성능이 아니라, 성격이 다른 여러 메모리를 어떻게 배치하고 연결하느냐라는 ‘아키텍처(구조 설계)’로 옮겨가고 있다는 방향이 제시됐다.
SK하이닉스는 지난 4일부터 6일까지 미국 산타클라라에서 열린 세계 최대 메모리·스토리지 학회 ‘FMS(Future of Memory and Storage) 2026’에서, 속도·용량·비용이 다른 메모리를 계층별로 나눠 유기적으로 연결하는 ‘계층형 메모리(Tiered Memory)’ 기반의 차세대 AI 메모리 방향성을 제시했다고 7일 밝혔다. 이 관점이 주목받는 배경에는 ‘AI 에이전트’의 확산이 있다. AI가 단순히 답을 내놓는 단계를 넘어 스스로 판단하고 작업을 수행하는 에이전트로 진화하면서, 처리해야 할 데이터의 양이 기하급수적으로 늘고 처리 속도와 효율에 대한 요구도 함께 커졌다. 문제는 이 수요를 단일 메모리 제품 하나로는 감당할 수 없다는 데 있다. 빠르지만 비싼 메모리와 느리지만 값싼 대용량 메모리를 적재적소에 배치해, 데이터가 오가는 거리를 최소화하는 것이 전체 효율을 좌우하게 된 것이다.
SK하이닉스는 HBM부터 서버 D램, 낸드, CXL에 이르기까지 AI 인프라의 모든 계층을 아우르는 포트폴리오를 앞세워 이 방향을 뒷받침했다. 김천성 SK하이닉스 부문장은 기조연설에서 “앞으로는 모든 메모리 계층을 아우르는 최적화된 아키텍처를 구현하는 역량이 AI 인프라 경쟁력의 핵심이 될 것”이라고 말했다.
‘메모리 하나’로는 안 된다
그동안 메모리 경쟁은 주로 ‘더 빠르고 더 큰 단일 제품’을 만드는 데 초점이 맞춰졌다. 하지만 SK하이닉스가 이번 학회에서 던진 메시지는 그 틀을 넘어선다. AI가 다루는 데이터가 폭발적으로 늘면서, 어느 한 종류의 메모리만으로는 속도와 용량, 비용을 모두 만족시킬 수 없게 됐다는 것이다.
해법으로 제시된 것이 ‘계층형 메모리’다. 속도·용량·비용이 각기 다른 메모리를 층층이 나눈 뒤, 이를 유기적으로 연결하고 최적화하는 구조다. 예를 들어 자주 쓰는 데이터는 빠른 메모리에, 덜 쓰는 대용량 데이터는 값싼 저장장치에 두고, 필요할 때 효율적으로 오가게 하는 방식이다. 도서관에서 자주 찾는 책은 손 닿는 곳에, 나머지는 서고에 두는 것과 비슷한 원리다.
이 방향이 나온 배경에는 AI의 진화 단계가 있다. 김천성 부문장은 “AI가 학습 중심에서 대규모 추론, 나아가 에이전트형 AI로 확장되면서 인프라 경쟁력은 개별 메모리 제품의 성능만으로 결정되지 않는다”고 말했다. 이어 “HBM, D램, 낸드, SSD 등 각 메모리 계층을 어떤 위치에 배치하고 어떻게 연결해 데이터 이동을 최소화하느냐가 전체 효율을 좌우하게 될 것”이라고 강조했다.
핵심은 ‘데이터 이동의 최소화’다. AI 연산에서 성능을 갉아먹는 큰 요인 중 하나가 메모리와 연산 장치 사이를 데이터가 오가는 데 드는 시간과 전력이다. 계층형 아키텍처는 각 데이터를 가장 적합한 위치에 두어 이 이동을 줄이려는 접근으로, 개별 부품의 속도 경쟁과는 결이 다른 ‘설계의 경쟁’을 의미한다.
HBM과 SSD 사이, 새 계층 ‘HBF’
계층형 구조가 힘을 받으려면 각 계층을 메울 새로운 메모리도 필요하다. SK하이닉스가 이번에 주목한 것이 ‘HBF(High Bandwidth Flash·고대역폭 플래시)’다. 마지막 날 임의철 담당은 구글, 샌디스크 등 업계 주요 기업들과 함께 HBF의 개발 방향을 논의하는 패널 토론에 참여했다.
HBF는 기존 두 메모리의 장점을 결합한 새로운 개념이다. HBM에 쓰이는 ‘TSV(칩을 수직으로 관통해 연결하는 전극)’ 기술을 적용해, 대용량 저장장치인 SSD의 넉넉한 용량과 D램에 필적하는 빠른 데이터 전송 속도를 동시에 구현한다. 대용량이지만 느린 SSD와, 빠르지만 상대적으로 용량이 작은 HBM 사이의 빈 공간을 메우는 셈이다.
임 담당은 “HBF는 초고속 메모리인 HBM과 대용량 저장장치인 SSD 사이에서 새로운 메모리 계층으로 자리 잡을 잠재력을 갖고 있다”고 말했다. 계층형 아키텍처라는 큰 그림 안에서, HBF가 비어 있던 중간 계층을 채우는 역할을 할 수 있다는 것이다. 그는 이를 AI 시스템의 확장성을 높이고 운영 비용을 줄일 핵심 해법으로 꼽았다.
다만 이런 새 메모리를 실제로 쓰려면 하드웨어만으로는 부족하다. 임 담당은 하드웨어와 소프트웨어를 함께 설계하는 ‘코디자인’ 접근의 중요성을 강조하며, SK하이닉스가 주요 파트너와 함께 차세대 기술 확보와 표준화를 추진하고 있다고 설명했다. 새로운 메모리 계층이 자리 잡으려면 업계 공통의 규격이 필요하기 때문이다.
메모리를 묶고, 연산까지
계층형 아키텍처를 실제로 구현하는 또 다른 기술이 ‘CXL’이다. CXL은 시스템 안의 메모리와 프로세서 등을 효율적으로 연결해, 대역폭과 용량의 한계를 확장해 주는 인터페이스 기술이다. SK하이닉스는 이번 전시에서 CXL 기반 기술을 여러 형태로 시연하며 가장 큰 관심을 모았다.
대표적인 것이 ‘풀드 메모리(Pooled Memory)’ 시연이다. 여러 개의 CXL 메모리를 하나로 묶어 여러 서버가 용량을 나눠 쓰도록 하는 기술로, 메모리 전체의 사용률을 높인다. SK하이닉스는 이를 활용해 여러 서버와 GPU를 연결한 분산 AI 에이전트 시스템을 선보이며, 기존 방식보다 성능이 크게 향상될 수 있음을 보여줬다. 여기서 관건이 되는 것은 ‘KV 캐시’다. AI 에이전트가 대화나 작업을 이어갈수록 기하급수적으로 커지는 임시 데이터로, 이를 얼마나 효율적으로 저장하고 재사용하느냐가 성능을 좌우한다.
한 걸음 더 나아간 것이 ‘메모리에 연산을 넣는’ 기술이다. SK하이닉스는 메모리 자체에 연산 기능을 탑재한 ‘CMM-Ax’를 활용해, 기존 GPU 시스템에서 처리하기 어려웠던 긴 문맥(Long-context)의 대형 언어모델 작업을 효율적으로 가속하는 해법을 시연했다. 데이터를 연산 장치로 보내는 대신 메모리 안에서 일부 계산을 처리해 이동을 줄이는 방식이다. 이 성과를 담은 연구는 컴퓨터 아키텍처 분야 최고 권위 학회인 ‘MICRO 2026’에 채택됐다.
전시 부스는 이 모든 계층을 한자리에 펼쳐 보였다. HBM4·HBM4E 같은 고성능 AI 메모리부터 서버용 D램, 웨어러블·모바일용 저전력 메모리(LPDDR·UFS), 그리고 웨어퍼 본딩을 처음 적용해 전력 대비 성능을 2.5배 높인 375단 4D 낸드까지 포트폴리오를 총망라했다. SK하이닉스는 “HBM부터 서버 D램, 낸드, CXL에 이르기까지 AI 인프라 전 계층을 아우르는 기술 역량을 알렸다”며 “고객과 파트너가 필요로 하는 최적의 AI 메모리 솔루션을 선제적으로 개발해 나가겠다”고 밝혔다. 개별 제품이 아니라 전 계층을 아우르는 ‘설계 역량’을 경쟁력으로 내세운 것이다.
