국산 NPU, 엔비디아 플랫폼 올라탄다

에이전틱 인공지능(AI)이 확산하면서 추론 요청이 급증해 AI 데이터센터(AIDC)의 전력 효율과 운영비용이 경쟁력을 좌우하게 됐다. SK텔레콤과 엔비디아, 리벨리온이 엔비디아 GPU(그래픽처리장치)와 리벨리온 NPU(신경망처리장치)를 한 서버 랙에 묶는 통합 시스템 개발에 나선다. 질문 분석은 GPU, 답변 생성은 NPU가 나눠 맡아 한국형 소버린 AI 인프라의 추론 성능과 전력 효율을 함께 끌어올리는 게 목표다.

9일 SK텔레콤과 엔비디아에 따르면 3사는 이날 서울 강남구 코엑스에서 열린 '엔비디아 AI 데이 서울 2026' 행사에서 GPU·NPU 통합 시스템 개발 업무협약(MOU)을 체결했다. 3사는 리벨리온이 개발 중인 NPU 'Rebel R200'을 엔비디아의 엔비링크 퓨전(NVLink Fusion) 기술로 엔비디아 플랫폼에 연결한다. 엔비링크 퓨전은 엔비디아 GPU끼리 데이터를 빠르게 주고받는 연결 기술을 다른 회사 AI 반도체로 넓힌 기술이다.

핵심은 추론 과정을 둘로 나눠 서로 다른 반도체에 맡기는 '분리형 추론'이다. 사용자 질문을 분석하는 '프리필'(Prefill) 단계는 계산량이 많아 GPU가, 답변을 한 단어씩 만드는 '디코드'(Decode) 단계는 NPU가 담당한다.

SK텔레콤은 통합 시스템을 자사 AIDC에 도입해 성능과 안정성을 실증하고 상용화 가능성을 검토한다. 독자 AI 모델 'A.X K2'와 대국민 서비스 '모두의 AI'를 연결해 인프라부터 모델·서비스까지 아우르는 풀스택 소버린 AI를 제공한다는 구상이다.

정석근 SK텔레콤 CTO(최고기술책임자)는 이날 SK그룹이 기가와트(GW)급 데이터센터를 국내에 짓는 계획을 갖고 엔비디아 등 글로벌 빅테크와 논의해 왔다고 밝혔다. 그는 "데이터센터를 국내에 많이 지으면 규모의 경제를 확보해 한국이 세계에서 가장 싸게 토큰을 만들 수 있다"며 "이를 통해 국내에서 AI를 많이 쓰게 하는 것이 이 프로젝트의 가장 큰 동기 중 하나"라고 설명했다.

박성현 리벨리온 대표는 "한국의 AI 반도체와 모델을 글로벌 기술과 결합해 대한민국의 소버린 AI 생태계를 확장하는 중요한 전환점"이라고 말했다.

과학기술정보통신부는 리벨리온과 SK텔레콤을 시작으로 엔비디아와 국내 NPU 기업 간 협력을 지원하고 있다. 배경훈 부총리 겸 과기정통부 장관은 "한국에서 개발된 NPU가 엔비디아와 함께 컴퓨팅 인프라 시장에 진출할 수 있게 되는 중요한 진전"이라고 평가했다.