NVIDIA·리벨리온·SKT 협력: GPU prefill과 NPU decode를 나누는 계획

NVIDIA와 리벨리온, SK텔레콤이 한국의 AI 추론 인프라를 함께 개발하는 계획을 발표했다. 리벨리온의 차세대 R200 NPU를 NVLink Fusion으로 연결하고 SKT가 이를 데이터센터에 배포하는 구상이다. 개발자가 살펴볼 대목은 응답 생성의 두 단계를 서로 다른 가속기에 맡기는 설계다.

NVIDIA 공식 발표는 뉴스룸에 2026년 11월 8일로 표시돼 있다. 11월 9일 브리핑에서 발견했으며 아래 내용은 상용 서비스 출시가 아니라 협력과 개발 계획에 관한 것이다.

GPU와 NPU가 맡을 단계

세 회사는 분리형 추론을 개발할 계획이다. 공식 발표가 제시한 역할은 NVIDIA GPU가 prefill을, 리벨리온 NPU가 decode를 담당하는 방식이다. 처리량과 전력 효율을 높이겠다는 목표도 제시했다. 다만 해당 조합의 성능을 확인할 측정 결과는 발표문에 없다. 현재 제공되는 시스템의 검증된 효과로 받아들이기에는 이르다.

R200은 개발 중이다. 회사들은 NVLink Fusion으로 R200 NPU를 랙 안에서 연결하고 MGX 랙 아키텍처와 참조 설계를 시스템 개발에 활용할 예정이다. SKT는 데이터센터 운영 경험과 자체 모델, 대국민 AI 서비스를 이 인프라에 연결할 계획을 밝혔다.

칩 연결과 데이터센터 설계를 함께 맞춘다

NVLink Fusion 제품 설명에서 NVIDIA는 맞춤형 XPU와 CPU를 자사 인프라에 결합하는 기술과 IP를 소개한다. MGX를 채택한 GPU·XPU 시스템은 랙 규격, 전력 공급, 냉각 등 데이터센터 설계 요소를 공유하도록 설계할 수 있다는 설명이다.

이 관점에서 이번 협력은 새 NPU의 계산 성능뿐 아니라 시스템을 어떻게 설치하고 운영할지까지 다룬다. 모델을 서비스하는 팀이라면 가속기별 수치와 함께 기존 데이터센터 설계에 맞는지 살펴볼 만하다. 이는 제품 설명을 바탕으로 한 도입 검토 관점이며 이번 시스템의 운영 성과를 측정한 결론은 아니다.

배포 준비 목표는 2028년

공식 발표는 R200 시스템이 2028년에 배포 준비를 마칠 것으로 예상한다고 명시한다. SKT 데이터센터의 배포 역시 계획으로 표현한다. 지금 사용할 수 있는 개발자 API나 즉시 구매 가능한 R200 시스템의 출시 공지로 읽어서는 안 된다.

실제 도입을 판단할 때는 후속 자료에서 지원 모델과 실행 소프트웨어, 단계 간 데이터 전달 방식, 목표 부하에서 지연과 전력을 측정한 조건을 확인할 필요가 있다. 이는 이번 발표로 확정된 사양이 아니라 개발팀이 이후 확인할 항목이다. 현재 확인된 범위는 협력 방향과 역할 분담 계획, 그리고 배포 준비 목표 시점까지다.