"VDPU"

디노티시아, VDPU로 AI 검색 병목 해소 — 전용 반도체 공개

디노티시아 정무경 대표는 AI 페스타 26 강연에서 AI 에이전트 시대 들어 연산 병목이 GPU에서 CPU·메모리로 옮겨가고 있다고 진단했다. 데이터센터 CPU 워크로드의 60~70%가 데이터 검색에 소모되고, KV 캐시 비대화로 메모리 오프로딩·리로드 지연이 커졌다는 설명이다. 디노티시아는 의미 기반 검색에 특화된 전용 반도체 VDPU를 통해 검색 속도를 기존 CPU 대비 최대 15배 높이고, 제로 카피 기술로 CPU 개입 없이 데이터를 GPU 메모리에 전달한다고 밝혔다. 회사는 VDPU와 AI 메모리 소프트웨어를 결합한 AI 스토리지 시스템을 GPU 옆에 배치하는 것을 목표로 개발 중이라고 전했다.