AI 인프라·반도체

노타, GPU 4분의 1로 초거대 AI 구동 기술 확보

ZDNet Korea·2026-11-09

요약

AI 모델 최적화 기업 노타가 업스테이지의 초거대 모델 '솔라 오픈 2'를 경량화해 구동에 필요한 엔비디아 H100 GPU를 8장에서 2장으로 줄였다고 9일 밝혔다. 모델 가중치 저장에 필요한 메모리는 500.6GB에서 117.8GB로 76.5% 줄었으며, 양자화와 가지치기 기술을 적용해 성능 저하를 최소화했다고 설명했다. 중국 문샷AI의 초거대 모델 '키미 K3'에도 같은 기술을 적용해 기존 8장이 필요했던 GPU를 각각 6장, 4장으로 구동하는 경량화 버전 2종을 개발했다. AMD 하드웨어 환경에서 진행한 추론 최적화 실험에서는 토큰당 에너지 소비를 31% 줄이고 응답 시간을 최대 52% 단축했다.

큐레이터 노트

원문에 없는 맥락입니다

AI 데이터센터의 전력·용수 사용 부담이 커지는 상황에서, 모델 경량화로 동일 작업에 필요한 GPU와 서버 자원 자체를 줄이려는 접근이라는 점이 특징이다.

다른 매체는 이렇게 썼다

같은 사안을 다룬 다른 곳의 보도입니다

노타, GPU·NPU 이기종 AI 추론 최적화 기술 공개
전자신문 SW · 2026-11-09

노타가 AMD의 AI 기술 행사 '어드밴싱 AI 월드 투어 서울'에서 GPU와 NPU 이기종 컴퓨팅 환경을 위한 AI 추론 최적화 기술을 발표했다. 이 기술은 GPU와 NPU가 연산 작업을 나눠 맡도록 분담하는 방식이다. AMD '라이젠 AI Max+ 395' 기반 노타 자체 평가에서 …

BHI, 해외 수주 확대로 잔고 2.9조원…납기·원가 관리 과제
블로터 · 2026-10-26

발전설비 제조사 비에이치아이(BHI)가 중동 등 해외 발전 프로젝트 수주를 늘리며 수주 잔고가 3조원에 육박했다. 글로벌 가스터빈 제조사와 발전 플랜트 기업을 고객사로 확보했고, AI 데이터센터 확산과 노후 발전소 교체 수요를 성장 요인으로 꼽았다. 북미 지역 입찰도 추진 중이다. 다만…

미코그룹, 넴에너지 인수로 HRSG 사업 확장
블로터 · 2026-10-23

미코그룹이 1600억원을 투입해 배열회수보일러(HRSG) 기업 넴에너지(NEM Energy)를 인수했다. 이를 통해 설계 기술과 제조 역량을 결합할 기반을 마련했으며, 넴에너지의 대규모 수주 잔고를 바탕으로 매출 성장을 기대하고 있다. 업계는 수주의 안정적인 매출 전환과 수익성 개선, …

이 사안의 흐름

같은 주제를 다룬 이 사이트의 기록 — 최신순

이 글에 나온 말

용어집 전체 →
양자화
모델의 가중치와 활성값을 32비트나 16비트 부동소수점 대신 더 적은 비트 수의 정수나 저정밀도 형식으로 표현해 모델 크기와 연산량을 줄이는 최적화 기법을 말한다.
추론
추론(Inference)은 학습이 끝난 인공지능 모델이 새로운 입력을 받아 예측이나 답변 같은 출력을 만들어내는 과정을 말한다.
토큰
언어 모델이 텍스트를 처리할 때 사용하는 최소 단위로, 단어나 단어의 일부, 문장 부호 등을 가리키는 말이다.

이 분야 브리핑

여러 매체가 함께 다룬 사안을 한 번에

이 페이지는 원문을 요약·재서술하고 이 사이트가 쌓은 기록을 덧붙인 큐레이션입니다. 원문 본문은 싣지 않으며, 수치와 표기는 원문 기준을 유지했습니다. 이 글은 AI의 도움을 받아 작성했습니다.

ZDNet Korea 원문 전체 보기 →

같은 분야의 다른 소식

전체 뉴스 →