모델 857건 · 국산 138 · 가격 690 추적 중
AI 인프라·반도체

퀄컴, 128GB 메모리 탑재 추론용 AI 가속기 Cloud AI 100 Ultra 공개

GeekNews·2026-11-05

요약

퀄컴이 생성형 AI와 대규모 언어모델 추론을 위한 가속기 카드 Cloud AI 100 Ultra를 공개했다. TDP 150W에서 ECC 지원 128GB 메모리와 548GB/s 메모리 대역폭을 제공하며, AI 코어 64개와 최대 576MB 온다이 SRAM을 갖췄다. 최대 연산 성능은 INT8 870 TOPS, FP16 288 TFLOPS이며 PCIe Gen4 16레인으로 호스트에 연결된다. 컴퓨터 비전과 자연어 처리부터 Transformer 기반 LLM까지 다양한 워크로드를 프로그래밍할 수 있도록 설계됐다.

큐레이터 노트

원문에 없는 맥락입니다

학습용 GPU와 달리 추론 전용으로 설계돼 전력 효율과 대규모 배포 비용 최적화에 초점을 맞춘 제품이라는 점이 특징이다.

다른 매체는 이렇게 썼다

같은 사안을 다룬 다른 곳의 보도입니다

미국 중간선거 '블루웨이브', AI 업계 책임론 부상
The Verge AI · 2026-11-05

미국 중간선거에서 민주당이 상원과 하원을 모두 장악하고, 조지아 최초의 흑인 여성 주지사, 뉴멕시코 최초의 아메리카 원주민 여성 주지사가 당선되는 등 전통적 공화당 강세 지역과 경합주에서 승리를 거뒀다. 이번 선거 캠페인들에서 공통적으로 등장한 주제 중 하나는 AI 기업들에 미국 국민에…

호주, AI·데이터센터 혜택 못 느끼는데 정치적 부담만 커져
The Guardian AI · 2026-11-05

호주에서 AI와 데이터센터 확산이 창작자 저작권 침해 우려, 전력·용수 사용 관련 특별 규정, 노동자 대체 위협 등 부담만 부각되고 있다는 지적이 나왔다. 호주중앙은행(RBA)은 데이터센터가 인플레이션 압력을 키우고 있다고 평가하며 기준금리를 18년 만에 최고 수준으로 올렸다. 미국 중…

인피니언, 1MW 데이터센터용 전력기술 공개
바이라인네트워크 · 2026-11-05

AI 연산 수요 증가로 LLM·AI용 GPU 1개의 전력 소비량이 기존 1000W 수준에서 2000W, 나아가 3000~4000W 이상으로 늘어나는 추세다. 이에 따라 서버 여러 대가 모인 데이터센터 랙당 전력 소비량도 현재 100~150kW 수준에서 향후 최대 1MW에 이를 것으로 전…

이 사안의 흐름

같은 주제를 다룬 이 사이트의 기록 — 최신순

이 글에 나온 말

용어집 전체 →
생성형 AI
생성형 AI는 학습한 데이터의 패턴을 바탕으로 텍스트, 이미지, 음성, 코드 등 새로운 콘텐츠를 만들어내는 인공지능 기술을 말한다.
추론
추론(Inference)은 학습이 끝난 인공지능 모델이 새로운 입력을 받아 예측이나 답변 같은 출력을 만들어내는 과정을 말한다.

이 분야 브리핑

여러 매체가 함께 다룬 사안을 한 번에

이 페이지는 원문을 요약·재서술하고 이 사이트가 쌓은 기록을 덧붙인 큐레이션입니다. 원문 본문은 싣지 않으며, 수치와 표기는 원문 기준을 유지했습니다.

GeekNews 원문 전체 보기 →

같은 분야의 다른 소식

전체 뉴스 →