삼성SDS, 국산 NPU 기반 AI 서비스 상용화…GPU 넘어 ‘소버린 AI’ 인프라 넓힌다
이미 학습된 AI 모델을 실제 서비스에 돌리는 ‘추론’ 작업에 특화된 국산 반도체를, 클라우드에서 빌려 쓰는 서비스가 상용화됐다.
삼성SDS는 퓨리오사AI의 2세대 NPU(Neural Processing Unit, AI 연산에 특화 설계된 반도체) ‘레니게이드(RGND)’를 기반으로 한 NPUaaS(NPU as a Service, NPU를 직접 사지 않고 클라우드에서 서비스로 빌려 쓰는 방식)를 자사 클라우드 플랫폼 SCP(삼성 클라우드 플랫폼)에 탑재해 출시했다고 20일 밝혔다.
그동안 AI 인프라는 엔비디아 등의 GPU에 크게 의존해왔다. 이번 출시는 국산 NPU를 클라우드 서비스 형태로 본격 공급하는 것으로, 고객의 AI 인프라 선택권을 넓히고 국내 기술로 데이터를 다루는 ‘소버린 AI’로 나아가는 전환점이 될 것으로 삼성SDS는 기대하고 있다.
‘AI를 학습’이 아니라 ‘AI를 굴리는’ 단계에 특화된 국산 반도체
이번 서비스의 핵심에는 퓨리오사AI의 2세대 NPU ‘레니게이드’가 있다. NPU는 AI 연산을 빠르고 효율적으로 처리하도록 특별히 설계된 반도체다. 레니게이드는 그중에서도 AI 추론(이미 학습을 마친 AI 모델을 실제 서비스에 적용해 결과를 만들어내는 단계)에 특화된 국산 칩이다.
AI 작업은 크게 모델을 훈련시키는 ‘학습’과, 학습된 모델을 실제로 돌려 답을 내는 ‘추론’으로 나뉜다. 답변 생성, 문서 분석, 이미지 판별 같은 실제 서비스는 모두 추론 단계에서 이뤄진다. 레니게이드는 바로 이 추론 단계에서, 그동안 널리 쓰인 GPU(원래 그래픽 처리용으로 개발됐으나 AI 연산에도 폭넓게 쓰이는 반도체) 대비 전력 효율성과 가성비가 매우 뛰어난 것이 특징이라는 게 삼성SDS의 설명이다.
이 지점이 중요한 이유는 AI 서비스가 확산될수록 비용과 전력 부담이 추론 단계에 집중되기 때문이다. 수많은 사용자의 요청을 실시간으로 처리해야 하는 상용 서비스에서는, 같은 작업을 더 적은 전력과 비용으로 처리할 수 있느냐가 곧 경쟁력이 된다.
서버를 사지 않고 ‘필요한 만큼’ 빌려 쓴다
NPUaaS의 실질적인 장점은 사용 방식에 있다. 고객은 NPU 서버를 직접 구매하거나 자체 데이터센터에 구축하지 않아도, SCP를 통해 구독형으로 쓸 수 있다. 값비싼 하드웨어를 미리 사들이는 부담 없이, 클라우드에서 필요한 만큼 빌려 쓰는 방식이다.
규모 조절도 자유롭다. 기업의 수요와 데이터 규모에 따라 NPU를 1장, 2장, 4장, 8장 등 원하는 단위로 선택해 활용할 수 있다. 이 덕분에 소규모로 시작하는 스타트업부터 대규모 연산이 필요한 대기업까지, 각자의 AI 서비스 규모에 맞춰 쓸 수 있다.
또한 NPUaaS는 SCP의 다른 상품들과 연계해 유연하게 활용할 수 있다. 고성능 스토리지와 컴퓨트, 고속 네트워크 등 클라우드 플랫폼이 제공하는 여러 자원과 함께 묶어 쓸 수 있어, 단순히 반도체만 빌려 쓰는 것을 넘어 AI 서비스에 필요한 인프라를 종합적으로 구성할 수 있다.
공공까지 겨냥한 ‘소버린 AI’…GPU 일변도에서 벗어나기
삼성SDS는 이번 NPUaaS를 SCP의 소버린 클라우드 환경으로 제공한다. 소버린(sovereign) 클라우드는 데이터와 인프라를 특정 국가·조직의 통제 아래 두어, 외부로의 유출 우려 없이 자체적으로 운영하는 방식을 뜻한다. 이를 통해 엄격한 보안 규제를 적용받는 공공 고객도 안심하고 이용할 수 있도록 지원한다는 계획이다.
이번 출시가 갖는 더 큰 의미는 AI 인프라의 무게중심과 관련이 있다. 삼성SDS는 기존 GPUaaS에 더해 NPU 기반 연산 자원까지 확대함으로써, GPU에 쏠려 있던 AI 인프라에 국산 NPU라는 선택지를 본격적으로 더했다. 회사는 이를 통해 고객의 AI 인프라 선택권 확대와 국산 NPU 기반 AI 인프라 확산, 소버린 AI 구축에 큰 전환점이 될 것으로 기대하고 있다.
삼성SDS 이호준 클라우드서비스사업부장(부사장)은 “이번 NPUaaS 출시는 단순히 새로운 클라우드 상품을 선보이는 것을 넘어, 고객이 고성능 AI 기술을 더 유연하고 가성비 높게 사용할 수 있다는 데 의의가 있다”며 “삼성SDS는 앞으로도 고객 니즈 해결을 위해 SCP 기반 상품을 다양화하고, 클라우드 AI 기술 생태계를 지속적으로 선도해 나갈 것”이라고 밝혔다.
