구글 TPUv7, AgentX 벤치마크서 엔비디아와 추론 성능 경쟁

SemiAnalysis는 구글이 자체 AI 반도체 TPUv7(아이언우드)의 장문맥·멀티턴 에이전트형 추론 성능을 측정하는 InferenceX의 AgentX 벤치마크 결과를 처음 공개했다고 전했다. Muse Spark, GLM-5.2, Qwen3.5, Kimi K3 등 4개 모델에서 TPUv7이 엔비디아 B200·B300, AMD MI355X 대비 토큰당 비용 측면에서 경쟁력 있거나 더 나은 성능을 보였다고 밝혔다. 오라클, 오픈AI, 안트로픽, 메타 등이 TPU 고객으로 거론됐으며, vLLM·SGLang·PyTorch 등 오픈소스 생태계와의 협력도 확대되고 있다고 설명했다. 보도는 엔비디아 내부의 관료적 절차가 드라이버 기능 개선 속도를 늦추고 있다는 지적도 함께 전했다.

이 글에 나온 것