모델 849건 · 국산 132 · 가격 688 추적 중
AI 인프라·반도체

래블업 신정규 대표 “GPU는 몇 장이 아니라 얼마나 뽑아쓰느냐가 중요”

테크42·2026-10-01

요약

래블업은 GPU·NPU 클러스터에서 AI 학습·추론을 배치·관리하는 소프트웨어 Backend.AI를 개발하는 기업으로, 분할 GPU 기술과 자체 AI 전용 오케스트레이터 ‘소코반’을 통해 GPU 자원 활용률을 높인다. 신정규 대표는 업스테이지 컨소시엄과 함께 B200 GPU 504장 클러스터로 ‘Solar Open 100B’ 학습을, 이후 H100·B200 등 약 1000장 규모 클러스터로 ‘Solar Open 2 250B’ 학습을 지원했다고 밝혔다. 그는 엔비디아 외에 AMD·인텔 GPU와 리벨리온·퓨리오사AI 등 국산 NPU도 통합 관리해 특정 하드웨어 종속을 줄이는 전략을 취한다고 설명했다. Backend.AI는 오픈소스 커뮤니티 에디션과 GPU 수량 기반 구독형 엔터프라이즈 버전으로 제공된다.

큐레이터 노트

원문에 없는 맥락입니다

GPU 확보 경쟁이 치열한 가운데, 이 기사는 하드웨어 수량보다 이를 효율적으로 운영하는 소프트웨어 계층이 실제 AI 생산성을 좌우한다는 점을 보여준다.

깊이 읽기

이 기사 한 건이 아니라, 같은 사안을 다룬 이 사이트의 기록을 근거로 정리했습니다

이 일이 어디서 왔나

래블업은 9월 29일 'lab | up > /conf/6' 컨퍼런스에서 'AI 팩토리'와 1인 1에이전트 인프라 비전을 발표한 데 이어, 이번 인터뷰에서 GPU 자원 활용률을 높이는 소프트웨어 전략을 구체적으로 밝혔다. 같은 시기 LG유플러스도 옵트에이아이와 손잡고 모델 경량화로 GPU·전력 사용량을 줄이는 '토큰 최적화' 기술을 공동 개발한다고 발표했고, NVIDIA는 생산성·내구성·범용성이 AI 팩토리 수익성을 좌우한다는 분석을 내놨다. GPU 확보 자체보다 이를 어떻게 운용하느냐로 업계의 관심이 옮겨가는 흐름 속에 이 기사가 놓여 있다.

짚어야 할 점

  • 래블업의 '효율적 활용률' 메시지는 NVIDIA가 말한 처리량·비용 효율 중심의 '생산성' 개념, LG유플러스·옵트에이아이의 토큰 최적화와 같은 맥락으로, 하드웨어 확보 경쟁이 치열해질수록 소프트웨어 계층의 중요성이 커지는 흐름을 보여준다.
  • 엔비디아 GPU 외에 AMD·인텔, 리벨리온·퓨리오사AI 국산 NPU까지 통합 관리한다는 전략은 특정 공급사 종속 위험을 낮추려는 시도로, GPU 공급 부족이나 가격 변동에 대한 업계의 대응 방식 중 하나로 읽힌다.
  • Solar Open 100B·250B 학습에 활용됐다는 B200·H100 클러스터 규모는 업스테이지 컨소시엄과의 협업 성과로 제시된 수치이며, 같은 시기 AWS의 데이터센터 투자 확대 및 지역 반발 보도와 맞물려 '인프라 확장'과 '효율화' 두 갈래 전략이 동시에 진행되고 있음을 시사한다.

아직 확인되지 않은 것

  • Backend.AI의 분할 GPU 기술과 소코반 오케스트레이터가 실제로 GPU 활용률을 얼마나 끌어올리는지 구체적 수치나 제3자 검증 자료는 제시되지 않았다.
  • Solar Open 100B·250B 학습 성과(모델 성능, 학습 기간 등)에 대한 세부 내용은 확인되지 않았다.
  • Backend.AI 엔터프라이즈 버전의 실제 고객 수나 매출 규모, 국산 NPU 통합이 상용 환경에서 어느 정도 안정적으로 작동하는지에 대한 자료는 나오지 않았다.

다른 매체는 이렇게 썼다

같은 사안을 다룬 다른 곳의 보도입니다

반도체 장비, 3년 뒤 공급계약까지 선점 경쟁
전자신문 SW · 2026-11-03

글로벌 반도체 장비사들이 3년 뒤에나 공급 가능한 장비의 계약을 서둘러 추진하고 있는 것으로 확인됐다. 반도체 제조사들이 AI 인프라 수요에 대응해 경쟁적으로 설비 투자에 나서면서 평시보다 1~2년 빠르게 계약이 이뤄지고 있다. 구매 급증과 한정된 생산 능력으로 장비 공급 기간(리드타임…

포티넷 네트워크 보안 매출, AI 데이터센터 수요로 34% 증가
블로터 · 2026-11-03

글로벌 보안기업 포티넷의 네트워크 보안 사업 매출이 2024년 3분기 역성장에서 올해 3분기 34% 증가로 반등했다. 이는 이연매출 증감을 반영한 수치로, AI 기반 보안 운영 사업의 증가율 15%보다 두 배 이상 높은 수준이다. 성장 배경에는 AI 데이터센터 구축과 기업의 네트워크 인…

SDT, 100kW급 액침냉각 시스템 '아쿠아랙' 공개
AI타임스 · 2026-11-03

SDT는 냉각 용량을 100kW로 높인 액침냉각 시스템 '아쿠아랙 42U'를 개발했다고 3일 밝혔다. GPU·NPU 등 고성능 가속기를 탑재한 고밀도 서버가 늘면서 데이터센터 발열 제어가 과제로 떠오른 가운데 나온 제품이다. 비전도성 특수 냉각유에 서버를 직접 담가 열을 식히는 단상 액…

이 사안의 흐름

같은 주제를 다룬 이 사이트의 기록 — 최신순

이 글에 나온 말

용어집 전체 →
NPU
신경망 연산에 특화된 전용 반도체로, 행렬 곱셈과 병렬 연산을 하드웨어 수준에서 가속해 CPU나 GPU보다 낮은 전력으로 딥러닝 추론을 처리하는 프로세서를 말한다.
추론
추론(Inference)은 학습이 끝난 인공지능 모델이 새로운 입력을 받아 예측이나 답변 같은 출력을 만들어내는 과정을 말한다.
학습
학습은 모델이 데이터를 반복적으로 살펴보며 예측 오차를 줄이는 방향으로 내부 파라미터를 조정해 나가는 과정을 말한다.
토큰
언어 모델이 텍스트를 처리할 때 사용하는 최소 단위로, 단어나 단어의 일부, 문장 부호 등을 가리키는 말이다.

이 분야 브리핑

여러 매체가 함께 다룬 사안을 한 번에

이 페이지는 원문을 요약·재서술하고 이 사이트가 쌓은 기록을 덧붙인 큐레이션입니다. 원문 본문은 싣지 않으며, 수치와 표기는 원문 기준을 유지했습니다.

테크42 원문 전체 보기 →

같은 분야의 다른 소식

전체 뉴스 →