NVIDIA, AI 데이터센터 전력 효율 높이는 DSX 공개

NVIDIA는 AI 데이터센터의 전력 활용을 최적화하는 소프트웨어 스위트 DSX를 AI Infra Summit에서 소개했다. 파트너사 Emerald AI의 Conductor 플랫폼은 실리콘밸리파워의 전력망 신호에 따라 자동으로 AI 팩토리의 전력 소비를 4메가와트에서 3메가와트로 낮추면서도 우선순위가 높은 작업은 중단 없이 유지했으며, 이런 수요반응 신호에 200회 넘게 성공적으로 대응했다. 클라우드 업체 Lambda는 DSX MaxLPS를 검증한 결과, 동일한 전력 예산 안에서 19개 노드를 가동해 16개 노드를 전력 최대로 가동했을 때보다 클러스터 전체 토큰 처리량이 24% 늘고 와트당 성능은 23% 개선됐다고 밝혔다. NVIDIA는 자체 전망을 통해 DSX MaxLPS가 차세대 Vera Rubin NVL72 AI 팩토리에서 동일 전력 예산 내 GPU 용량을 최대 40%까지 늘릴 수 있을 것으로 추정했다.

이 일이 어디서 왔나

이 발표는 산타클라라에서 열린 AI 인프라 서밋에서 나온 여러 발표 중 하나로, NVIDIA는 같은 자리에서 베라 루빈 시스템과 DSX 플랫폼을 함께 소개했다. 같은 행사에서 아마존 산하 Annapurna Labs의 NVHBM 커스텀 메모리, d-Matrix의 NVLink Fusion 통합, Pinterest의 Blackwell·Dynamo 기반 비주얼 검색 도입 등도 함께 공개돼, DSX는 전력 효율이라는 하나의 축을 겨냥한 발표였다.