삼성SDS 주도 ‘국가 AI 컴퓨팅센터’ 착공…AI 반도체 1.5만장 연산 인프라 짓는다

스타트업과 중소기업, 대학, 연구기관이 초거대 AI를 개발할 때 필요한 막대한 연산 자원을 공동으로 제공하는 대규모 공공 인프라 구축이 시작됐다.

삼성SDS는 컨소시엄 대표사로서 과학기술정보통신부, 정보통신산업진흥원과 함께 설립한 사업 법인 ‘코아크(KOACC·한국에이아이컴퓨팅센터)’를 통해 ‘국가 AI 컴퓨팅센터’ 구축에 본격 착수한다고 3일 밝혔다. 이날 전라남도 해남군 솔라시도 데이터센터파크에서는 배경훈 부총리 겸 과기정통부 장관, 코아크 안정태 대표, 삼성SDS 이준희 대표, 네이버클라우드 김유원 대표 등이 참석한 가운데 착공식이 열렸다.

이 프로젝트가 주목받는 배경에는 AI 경쟁의 승부가 결국 ‘연산 능력’에서 갈린다는 현실이 있다. 초거대 AI를 학습시키려면 수천, 수만 개의 고성능 AI 반도체가 필요한데, 이런 자원을 갖추는 데는 천문학적 비용이 들어 자금이 부족한 스타트업이나 대학은 아이디어가 있어도 개발에 나서기 어려웠다. 국가가 대규모 연산 시설을 지어 이를 나눠 쓰도록 하겠다는 것이 이번 사업의 핵심으로, 정부가 내건 ‘AI 3대 강국’ 목표를 뒷받침하는 기반 인프라에 해당한다. 센터는 2028년 준공을 목표로 총사업비 2조 5천억 원이 투입되며, AI 반도체 1만 5천 장 규모의 첨단 컴퓨팅 환경을 갖추게 된다.

왜 ‘국가 AI 컴퓨팅센터’인가

AI 개발에서 연산 능력은 종종 ‘실탄’에 비유된다. 초거대 AI 모델은 방대한 데이터를 반복 학습해야 하는데, 이 계산을 감당하려면 고성능 AI 반도체가 대량으로 필요하기 때문이다. 반도체를 얼마나 많이, 얼마나 오래 돌릴 수 있느냐가 곧 개발 속도와 모델 성능을 좌우한다.

문제는 이 자원을 확보하는 비용이 개인이나 소규모 조직이 감당하기 어려운 수준이라는 데 있다. 고성능 AI 반도체는 한 장에 수천만 원을 호가하고, 이를 수천 장 단위로 갖추고 운영하려면 막대한 초기 투자와 전력·냉각 시설이 뒤따른다. 결국 자본력을 갖춘 대기업만이 대규모 AI 개발에 나설 수 있는 구조가 굳어졌다.

이런 격차는 국가 차원의 AI 경쟁력에도 영향을 미친다. 좋은 아이디어와 인재가 있어도 연산 자원이 없어 개발을 포기하는 스타트업과 연구자가 많아지면, 그만큼 혁신의 저변이 좁아지기 때문이다. 연산 자원의 접근성이 AI 생태계 전체의 병목이 되는 셈이다.

국가 AI 컴퓨팅센터는 바로 이 병목을 국가가 나서서 풀겠다는 구상이다. 대규모 연산 시설을 공공이 지어 스타트업, 중소기업, 학계, 연구기관이 나눠 쓰도록 하는 것이다. 도로나 항만처럼, AI 시대의 기반 시설을 국가가 깔아 누구나 활용하게 한다는 접근이다.

2조 5천억 원, AI 반도체 1만 5천 장

센터가 들어서는 곳은 전남 해남군 솔라시도 데이터센터파크다. 2028년 준공을 목표로 총사업비 2조 5천억 원이 투입되는 대형 프로젝트로, AI 반도체 1만 5천 장 규모의 첨단 컴퓨팅 인프라를 구축한다. 국내 공공 AI 인프라로는 손꼽히는 규모다.

핵심은 고성능 GPU와 NPU 기반의 연산 자원이다. GPU(그래픽처리장치)는 원래 그래픽 처리를 위해 만들어졌지만 대량의 계산을 동시에 처리하는 데 뛰어나 AI 학습의 표준 장비로 자리 잡았고, NPU(신경망처리장치)는 AI 연산에 특화해 설계한 전용 칩이다. 센터는 이 두 종류의 연산 자원을 대규모로 갖춰 초거대 AI 모델 개발과 대규모 데이터 처리 수요를 뒷받침한다.

센터의 역할은 단순히 연산 자원을 빌려주는 데 그치지 않는다. 산업별로 특화된 AI 모델 개발을 돕고, 대규모 학습과 추론 환경을 지원하며, 개발한 AI 서비스가 실제로 작동하는지 시험하고 검증하는 단계까지 아우른다. AI를 만드는 전 과정을 지원하는 기반 시설로 설계된 것이다.

접근성을 높이기 위한 장치도 마련된다. 특히 자금이 부족한 스타트업과 중소기업, 학계·연구기관이 인프라를 쉽게 쓸 수 있도록 이용권을 제공하고 요금을 할인하는 등의 지원 프로그램을 추진할 계획이다. 값비싼 연산 자원의 문턱을 낮춰, 실제로 폭넓은 이용자가 활용하게 하는 것이 관건이다.

국산 NPU 생태계까지

이 사업의 또 다른 축은 국산 AI 반도체 생태계 육성에 있다. 현재 AI 연산 시장은 해외 기업의 GPU가 사실상 독점하다시피 하고 있어, 국내 AI 산업이 특정 해외 제품에 크게 의존하는 구조다. 이런 의존을 줄이려면 국산 AI 반도체가 실제로 쓰이며 성능을 검증받을 무대가 필요하다.

국가 AI 컴퓨팅센터는 그 무대 역할을 겨냥한다. 국산 NPU의 개발부터 검증, 상용화에 이르는 전 과정을 지원함으로써, 국내에서 만든 AI 반도체가 실제 대규모 환경에서 성능을 입증하고 시장에 진입할 수 있도록 돕는다는 계획이다. 연산 인프라 구축을 국산 반도체 산업 육성과 연결한 것이다.

사업 추진 체계도 갖춰졌다. 삼성SDS 컨소시엄은 지난해 10월 이 사업에 단독으로 참여한 뒤, 특수목적법인(SPC·특정 사업만을 위해 세우는 회사) 설립 태스크포스를 꾸려 우선협상대상자 선정(3월), 사업자 선정(5월), 법인 설립(6월) 절차를 밟아 왔다. 삼성SDS는 컨소시엄 대표사로서 코아크 설립을 주도했으며, 이 법인을 통해 센터의 구축과 운영을 총괄한다.

다만 이번 발표는 완공된 성과가 아니라 착공 단계라는 점은 짚어둘 필요가 있다. 2조 5천억 원 규모의 인프라가 2028년 준공까지 계획대로 구축되고, 스타트업·연구기관이 실제로 폭넓게 활용하며 국산 반도체 생태계로까지 이어질지는 앞으로의 실행에 달려 있다. 국가 AI 컴퓨팅센터는 초거대 AI 개발의 연산 병목을 공공이 풀고 국산 AI 반도체의 자립 기반을 마련하려는 시도로, 그 성패는 준공 이후의 운영에서 판가름날 전망이다