"Imagination"
뉴스
Imagination NSR, GPU 내장형 신경망 업스케일링 기술
Imagination Technologies가 백서를 통해 신경망 초해상도(Neural Super Resolution, NSR) 기술을 소개했다. NSR은 현재 프레임 데이터와 시간적 히스토리, 학습된 추론을 결합해 저해상도 프레임을 고해상도로 재구성한다. 별도의 AI 가속기에 의존하는 방식과 달리 NSR은 GPU 내부에서 직접 동작해 그래픽·컴퓨트·AI 워크로드가 하나의 실행 환경에서 함께 처리되도록 한다. 백서는 Converged Acceleration 개념, 매트릭스 가속과 신경망 처리를 그래픽 파이프라인에 통합한 Imagination E-Series 아키텍처, 그리고 데이터 지역성·마이크로타일링·Self-Compression 기법을 설명한다. Doom Eternal을 대상으로 EXD-64-2048 MC1 GPU를 모델링한 결과는 네이티브 4K 렌더링과 1080p 업스케일링 간 성능·대역폭 차이를 워크로드별 추정치로 제시했다.
Imagination, PowerVR GPU LLM 가속 성능지표 공개
Imagination이 PowerVR GPU 기반 거대언어모델(LLM) 추론 가속을 다루는 2부작 블로그의 첫 편을 공개했다. 이번 글은 LLM 추론이 프리필(Prefill)과 디코드(Decode) 두 단계로 나뉜다는 점을 설명하고, 각 단계 성능을 나타내는 지표인 첫 토큰 생성 시간(TTFT)과 토큰 간 지연시간(ITL)을 소개했다. 프리필 단계는 행렬-행렬 곱셈 연산으로 GPU의 연산 처리량에 좌우되고, 디코드 단계는 KV 캐싱을 활용한 행렬-벡터 곱셈으로 GPU 메모리 대역폭에 의존한다고 밝혔다. 다음 편에서는 Llama.cpp 추론을 Imagination GPU에 효율적으로 구현하는 작업을 다룰 예정이라고 전했다.
