하이퍼엑셀, SC26서 LPU 추론 시스템 공개 — GPU 대비 효율 강조

하이퍼엑셀이 미국 시카고에서 열리는 SC26 콘퍼런스에서 LPU(언어처리장치) 기반 AI 추론 시스템을 전시해요. 8개의 LPU로 구성된 서버 시스템을 선보이고, 한국에 있는 실제 서버에서 LLM(대형언어모델) 추론을 돌리는 모습을 원격으로 시연할 계획이에요. 회사가 자체적으로 진행한 내부 벤치마크에 따르면, 이 시스템은 NVIDIA RTX PRO 6000 Blackwell Server Edition GPU를 쓴 시스템보다 와트당·달러당 토큰 처리량이 3.5배 이상 높다고 밝혔어요.
이 글에 나온 것
이 글은 원문을 요약한 큐레이션입니다. 제목은 요약에 맞춰 새로 붙였습니다. 수치와 단위는 원문 표기를 유지했습니다. 전체 내용은 원 매체에서 읽어 주세요. 이 글은 AI의 도움을 받아 작성했습니다.원문: KIPOST 「HyperAccel to Showcase LPU-Based AI Inference System at SC26, Highlighting Power and Cost Efficiency」
KIPOST 원문 보기 ↗