엔비디아와 리벨리온 및 SK텔레콤이 한국의 소버린 AI 인프라 고도화를 위한 협력을 공식 발표했다. 세 기업은 엔비디아의 플랫폼과 리벨리온의 NPU 및 SK텔레콤의 데이터센터 역량을 상호 연결할 계획이다. 이번 협력을 통해 국내 반도체 개발과 대규모 AI 구현에 필요한 시스템 역량을 강화할 방침이다
▲ 엔비디아와 리벨리온, SK텔레콤이 소버린 AI 인프라 고도화를 위한 협력 계획을 발표했다 (사진제공: 엔비디아)
엔비디아와 리벨리온 (Rebellions), SK텔레콤 (SK Telecom)이 한국의 소버린 AI 인프라 고도화를 위한 협력을 발표했다. 이번 협력을 통해 세 기업은 엔비디아의 개방형 인프라 플랫폼과 리벨리온이 국내에서 설계한 AI 프로세서, SK텔레콤의 AI 데이터센터 및 모델, 서비스 역량을 NV링크 퓨전(NVLink Fusion)을 활용해 연결할 계획이다.
과학기술정보통신부 (MSIT)의 지원 아래 추진되는 이번 협력은 한국의 언어, 산업, 우선순위에 특화된 AI 서비스를 지원하며, 국내 반도체 개발과 대규모 AI 구현에 필요한 시스템 및 운영 역량을 연결하는 것을 목표로 한다.
리벨리온은 엔비디아 NVLink Fusion을 활용하여 자사의 리벨 R200 (Rebel R200) NPU를 엔비디아 플랫폼과 연결할 예정이다. 또한 엔비디아 MGX 랙 아키텍처를 기반으로 랙 스케일 시스템을 개발할 계획이다. SK텔레콤은 자체 AI 데이터센터 운영 경험과 모델, 서비스 역량을 바탕으로 해당 시스템을 자사 AI 데이터센터에 구축한다.
젠슨 황 엔비디아 창립자 겸 CEO는 "한국이 AI 분야에서 세계적인 리더로 도약할 인재와 기술, 산업적 역량을 갖추고 있다"고 말했다. 그는 "소버린 AI가 각국이 자국의 언어, 문화, 전문 지식을 인텔리전스로 전환하도록 하며, NV링크 퓨전을 통해 한국 반도체 기업들이 맞춤형 ASIC을 엔비디아 AI 팩토리 플랫폼에 연결할 수 있다"고 설명했다.
박성현 리벨리온 공동창업자 겸 CEO는 이번 발표를 "한국 AI 반도체와 모델을 글로벌 시스템 기술과 연결함으로써 소버린 AI의 새로운 장을 여는 전환점"으로 평가했다. 그는 "리벨리온의 맞춤형 반도체와 시스템 설계 기술에 엔비디아의 NV링크 퓨전 등 기술력과 SK텔레콤의 모델 및 데이터센터 운영 역량을 결합해, 최첨단 모델을 대규모로 처리하는 저지연 고효율 추론 성능을 구현할 예정"이라고 밝혔다.
정재헌 SK텔레콤 대표이사 겸 CEO는 "글로벌 AI 인프라 기술과 국내 AI 반도체를 결합하여, 차세대 소버린 AI 인프라의 잠재력을 입증하는 데 의미가 크다"고 강조했다.
엔비디아 NV링크 퓨전은 엔비디아의 개방형 AI 플랫폼을 맞춤형 XPU로 확장하는 기술이다. 이를 통해 반도체 기업들은 특수 설계된 반도체를 엔비디아의 고대역폭 저지연 스케일업 네트워킹과 인프라 생태계에 결합하여, 성능을 높이고 배포 위험을 줄이며 시장 출시 기간을 단축할 수 있다.
리벨리온은 수조 개의 파라미터를 갖춘 전문가 혼합(Mixture-of-Experts, MoE) 모델을 포함한 최첨단 모델을 활용하여 저지연 고효율 추론에 최적화된 차세대 R200 NPU를 개발하고 있다. 리벨리온은 NV링크 퓨전을 통해 랙 내부의 R200 NPU를 엔비디아 NV링크 스케일업 네트워킹으로 연결할 예정이며, 엔비디아 MGX 랙 아키텍처와 레퍼런스 설계는 시스템 개발을 지원한다.
SK텔레콤은 AI 데이터센터 구축 및 운영 경험과 함께 자체 파운데이션 모델, 대국민 AI 서비스 역량을 보유하고 있다. SK텔레콤은 이러한 역량을 연결하고 표준화된 MGX 랙 아키텍처를 활용해 자사 AI 데이터센터에 이를 구축함으로써 풀스택 소버린 AI를 구현할 계획이다. MGX 랙 아키텍처는 GPU와 NPU 시스템이 랙 설치 공간, 전력 공급, 냉각 등 데이터센터 설계 요소를 공유할 수 있는 기반을 제공한다.
엔비디아, 리벨리온, SK텔레콤은 AI 응답 생성의 각 단계를 해당 작업에 가장 적합한 프로세서 아키텍처에 할당하는 분산 추론 방식을 개발할 예정이다. 여기에는 엔비디아 GPU가 프리필(prefill)을, 리벨리온 NPU가 디코드(decode)를 담당하도록 구성하여 추론 처리량과 전력 효율을 높이는 방안이 포함된다.
류제명 과학기술정보통신부 제2차관은 "이번 엔비디아와의 협력이 국내에서 개발한 NPU가 NV링크 퓨전을 통해 글로벌 AI 컴퓨팅 선도 기업인 엔비디아와 함께 컴퓨팅 인프라 시장에 진출할 수 있는 중요한 계기를 마련했다"고 평가했다. 정부는 "이번 협력이 실질적인 성과로 이어지도록 적극 지원하며, 피지컬 AI와 GPU 공급 확보 등 다양한 분야에서 엔비디아와의 협력을 확대해 나갈 것"이라고 밝혔다.
