AI 산업의 무게중심이 바뀌었다. 더 크고 빠른 모델을 훈련하기 위해 수백억 달러의 자본과 기가와트급 전력을 클러스터에 쏟아붓던 확장 경쟁은 이미 정점을 통과했다. 지금 산업의 실질적인 승부는 학습이 완료된 모델을 실제 서비스 환경에서 매 순간 안정적으로 호출하고 지속 운용할 수 있는가, 즉 추론(inference)의 효율과 회복력을 누가 먼저, 그리고 더 깊이 확보하느냐의 문제로 이동하고 있다.

이 전환은 반도체 수요 구조에서 이미 수치로 나타나고 있다. 올해 1월 말 각각 진행된 컨퍼런스콜에서 삼성전자와 SK하이닉스는 고대역폭 메모리(HBM)를 넘어 서버용 고용량 D램과 기업용 SSD 수요가 동시에 빠르게 확대되고 있다고 밝혔다. 추론 서비스는 모델이 사용자 요청을 받을 때마다 메모리와 스토리지를 반복적으로 소비하는 구조를 만든다. 누적되고 예측 가능하며 장기적인 이 소비 패턴이 반도체 수요의 중심으로 부상하면서, 두 회사는 공정·패키징·공급 전략을 추론 워크로드 중심으로 재배치하고 있다고 설명했다.

공정·패키징·수율 분석 분야 최고회 기술 펠로우인 테크인사이트의 최정동 수석부사장은 MIT 테크놀로지 리뷰 코리아와의 인터뷰에서 이 변화가 고객의 선택 기준 자체를 바꾸고 있다고 말했다. 최 수석부사장은 “전력 대비 성능과 대역폭은 중요하지만, 그보다 수율 안정성, 로드맵 신뢰성, 공급망의 회복력이 우선적”이라며 “향후 HBM4와 그 이후 세대의 결정적 요인은 대규모 생산에서의 신뢰성”이라고 강조했다.