AI 인프라·반도체

노타, GPU·NPU 이기종 AI 추론 최적화 기술 공개

전자신문 SW·2026-11-09

요약

노타가 AMD의 AI 기술 행사 '어드밴싱 AI 월드 투어 서울'에서 GPU와 NPU 이기종 컴퓨팅 환경을 위한 AI 추론 최적화 기술을 발표했다. 이 기술은 GPU와 NPU가 연산 작업을 나눠 맡도록 분담하는 방식이다. AMD '라이젠 AI Max+ 395' 기반 노타 자체 평가에서 AI 모델 응답 시간을 최대 52% 단축했고, 토큰당 에너지 소비는 31% 절감된 것으로 나타났다.

큐레이터 노트

원문에 없는 맥락입니다

응답 시간 단축과 에너지 절감 수치는 노타가 자체 수행한 평가 결과로, 독립 기관의 검증 결과는 아니다.

다른 매체는 이렇게 썼다

같은 사안을 다룬 다른 곳의 보도입니다

SKT, 엔비디아·리벨리온과 GPU·NPU 연동 실증 추진
블로터 · 2026-11-09

SK텔레콤이 9일 서울 코엑스에서 열린 '엔비디아 AI 데이 서울 2026'에서 엔비디아, 리벨리온과 3자 '엔비링크 퓨전 협력' 업무협약을 체결했다. 세 회사는 SKT가 구축 중인 자사 AI 데이터센터(AIDC)에서 엔비디아 GPU와 리벨리온 NPU를 하나로 묶는 이기종 AI 컴퓨팅 …

노타, GPU 4분의 1로 초거대 AI 구동 기술 확보
ZDNet Korea · 2026-11-09

AI 모델 최적화 기업 노타가 업스테이지의 초거대 모델 '솔라 오픈 2'를 경량화해 구동에 필요한 엔비디아 H100 GPU를 8장에서 2장으로 줄였다고 9일 밝혔다. 모델 가중치 저장에 필요한 메모리는 500.6GB에서 117.8GB로 76.5% 줄었으며, 양자화와 가지치기 기술을 적용…

엔비디아·SKT·리벨리온, 이기종 AI컴퓨팅 MOU 체결
AI타임스 · 2026-11-09

엔비디아, SK텔레콤, 리벨리온이 9일 서울 코엑스 엔비디아 'AI 데이' 행사에서 'NV 링크 퓨전' 협력 업무협약을 체결했다. 이는 과학기술정보통신부와 엔비디아가 협의해 온 NV 링크 퓨전 기반 국산 NPU 연계 협력사업의 일환으로 추진됐다. 협약에 따라 SK텔레콤은 AI 데이터센터…

이 사안의 흐름

같은 주제를 다룬 이 사이트의 기록 — 최신순

이 글에 나온 말

용어집 전체 →
NPU
신경망 연산에 특화된 전용 반도체로, 행렬 곱셈과 병렬 연산을 하드웨어 수준에서 가속해 CPU나 GPU보다 낮은 전력으로 딥러닝 추론을 처리하는 프로세서를 말한다.
추론
추론(Inference)은 학습이 끝난 인공지능 모델이 새로운 입력을 받아 예측이나 답변 같은 출력을 만들어내는 과정을 말한다.
평가
AI 모델이나 시스템의 출력이 원하는 기준에 얼마나 부합하는지를 정량적·정성적으로 측정하는 절차를 말한다.
토큰
언어 모델이 텍스트를 처리할 때 사용하는 최소 단위로, 단어나 단어의 일부, 문장 부호 등을 가리키는 말이다.

이 분야 브리핑

여러 매체가 함께 다룬 사안을 한 번에

이 페이지는 원문을 요약·재서술하고 이 사이트가 쌓은 기록을 덧붙인 큐레이션입니다. 원문 본문은 싣지 않으며, 수치와 표기는 원문 기준을 유지했습니다. 이 글은 AI의 도움을 받아 작성했습니다.

전자신문 SW 원문 전체 보기 →

같은 분야의 다른 소식

전체 뉴스 →