SKT·엔비디아·리벨리온, GPU·NPU 결합 — 소버린 AI 추론 인프라 구축

SK텔레콤이 엔비디아, 리벨리온과 함께 한국형 소버린 AI 인프라를 위한 GPU·NPU 통합 시스템 개발 업무협약을 체결했다. 3사는 엔비디아 NV링크 퓨전을 활용해 리벨리온이 개발 중인 NPU '리벨 R200'을 엔비디아 플랫폼과 연결하고, MGX 규격을 적용한 랙 단위 통합 시스템을 개발한다. 사용자 질문을 분석하는 프리필 단계는 GPU가, 답변을 생성하는 디코드 단계는 NPU가 맡는 분리형 추론 방식으로 처리 속도와 전력 효율을 높인다는 구상이다. SK텔레콤은 이 시스템을 데이터센터에 도입해 성능과 안정성을 실증하고, 독자 모델 A.X K2 및 '모두의 AI' 같은 서비스와 연계해 풀스택 소버린 AI를 제공할 계획이다.
이 글에 나온 것
이 글은 원문을 요약한 큐레이션입니다. 제목은 요약에 맞춰 새로 붙였습니다. 수치와 단위는 원문 표기를 유지했습니다. 전체 내용은 원 매체에서 읽어 주세요. 이 글은 AI의 도움을 받아 작성했습니다.원문: ZDNet Korea 「정석근 SKT "GPU·NPU 결합해 세계서 가장 싸게 토큰 생산"」
ZDNet Korea 원문 보기 ↗
