MLOps·개발도구

Flide, Jev 계열 의사결정 모델 추론 최대 9.5배 가속 주장

GeekNews·2026-11-09

요약

Flide는 Jev 계열 의사결정 모델을 위한 추론 인프라로, 정확한 상태 분기(exact state forking) 방식을 통해 vLLM과 SGLang 대비 최대 9.5배 빠른 추론을 낸다고 밝혔다. 하나의 상태를 여러 질문으로 분기해도 각 답변은 해당 질문만 단독 입력했을 때와 동일하게 유지하는 것이 특징이다. Jev의 /v1/systemone API를 제공해 공유 상태에 대한 여러 질문과 복수 요청을 하나의 요청 본문으로 처리할 수 있다. Qwen3.5, Gemma 4 등 다양한 의사결정 모델을 지원하며, 모델에 따라 텍스트 외 이미지·동영상 입력도 가능하다.

큐레이터 노트

원문에 없는 맥락입니다

9.5배라는 속도 수치는 Flide가 자체 공개한 H200 단일 장비 성능표에 근거한 자체 발표 수치다.

다른 매체는 이렇게 썼다

같은 사안을 다룬 다른 곳의 보도입니다

구글, AI 코딩 설계 오류 잡는 플러그인 공개
AI타임스 · 2026-11-09

구글이 AI 코딩 에이전트가 코드 작성에 앞서 상세한 설계 명세서를 만들고, 대화 맥락이 없는 별도의 AI 에이전트가 이를 독립적으로 검토하도록 하는 '코끼리-금붕어 모델(EGM)' 플러그인을 오픈소스로 공개했다. 설계에 참여한 AI가 자신의 잘못된 가정을 그대로 받아들이는 문제를 줄이…

ETRI, 노코드 AI 개발도구 '탱고' 오픈소스 공개
전자신문 SW · 2026-11-09

한국전자통신연구원(ETRI)이 AI 전문 지식이 없어도 산업현장에 필요한 AI 모델과 서비스를 개발할 수 있는 노코드 기반 통합개발도구 '탱고(TANGO)'를 오픈소스로 공개했다고 9일 밝혔다. 탱고는 AI 모델 학습부터 최적화, 배포까지 개발 전 과정을 자동화하는 도구다. 복잡한 프로…

딥시크 AI 에이전트 '하네스', 일일 154만명 사용
ZDNet Korea · 2026-11-09

딥시크가 출시 3개월 만에 AI 에이전트 플랫폼 '딥시크 하네스'의 일일 활성 이용자 수가 154만 명을 기록했다고 밝혔다. 블룸버그통신에 따르면 9월 말 약 27만 1000명에서 한 달여 만에 5배 이상 늘었다. 하네스는 이용자 지시에 따라 코드 작성, 파일 분석, 정보 검색 등 여러…

이 사안의 흐름

같은 주제를 다룬 이 사이트의 기록 — 최신순

이 글에 나온 말

용어집 전체 →
API
API는 서로 다른 소프트웨어가 기능이나 데이터를 주고받을 수 있도록 정해 놓은 규칙과 창구를 말한다.
추론
추론(Inference)은 학습이 끝난 인공지능 모델이 새로운 입력을 받아 예측이나 답변 같은 출력을 만들어내는 과정을 말한다.

이 분야 브리핑

여러 매체가 함께 다룬 사안을 한 번에

이 페이지는 원문을 요약·재서술하고 이 사이트가 쌓은 기록을 덧붙인 큐레이션입니다. 원문 본문은 싣지 않으며, 수치와 표기는 원문 기준을 유지했습니다. 이 글은 AI의 도움을 받아 작성했습니다.

GeekNews 원문 전체 보기 →

같은 분야의 다른 소식

전체 뉴스 →