MLOps·개발도구

카페24·KT, AI 토큰 비용 관리 서비스 잇따라 출시

ZDNet Korea·2026-11-08

요약

생성형 AI 사용이 늘며 적은 토큰으로 고품질 작업을 수행하는 '토큰 가성비'와 작업별로 적합한 모델을 고르는 '모델 라우팅'이 주목받고 있다. 카페24는 여러 AI 모델을 하나의 API로 연결하고 자동으로 최적 모델을 선택하는 'LLM 라우터'를 운영 중이며, 지원 모델을 120여 개에서 270여 종으로 늘렸다. KT는 10월 27일 AI 통합 플랫폼 '토큰팩토리'를 공개해 30일부터 기업 고객용 정식 서비스를 시작했고, 오픈라우터와 연계해 지원 모델을 500개 이상으로 늘릴 계획이다. 래블업도 10월 23일 여러 AI 모델의 요청 분배와 토큰 사용량·비용을 중앙 관리하는 '컨티넘 엔터프라이즈'의 첫 공급 계약을 발표했다.

큐레이터 노트

원문에 없는 맥락입니다

스플렁크 조사에서 응답자의 55%가 AI 비용을 정확히 통제하지 못한다고 답한 배경이, 단일 모델 의존 대신 비용·성능을 고려해 모델을 나눠 쓰는 라우팅 서비스 확산으로 이어지는 흐름이다.

다른 매체는 이렇게 썼다

같은 사안을 다룬 다른 곳의 보도입니다

스코틀랜드 AI 데이터센터, 재생에너지 약속 뒤집고 국가 전력망 의존
The Guardian AI · 2026-11-07

영국 AI 전략의 핵심 사업으로 꼽히는 DataVita가 글래스고 인근 래너크셔(채플홀)에 짓는 대형 AI 데이터센터 사업이 당초 약속과 달리 전량 국가 전력망(National Grid)에서 전력을 공급받게 됐다. DataVita는 이 사업이 1GW 규모 전력을 재생에너지로만 공급받을 …

AI 데이터센터 확장, 전력망·환경 갈등 전국 확산
The Verge AI · 2026-11-06

AI 서버용 대형 데이터센터 건설이 전력망 부담, 전기요금 상승, 지역사회 반발, 환경 영향 등을 둘러싼 논쟁을 낳고 있다. 데이터센터 문제는 2026년 중간선거의 주요 쟁점이었으며 유권자들은 대체로 데이터센터 확장에 반대표를 던진 것으로 나타났다. OpenAI와 아마존 등 기업들은 지…

美 증시, AI 인프라株 급락에 2조5천억달러 증발
GeekNews · 2026-11-06

목요일 미국 증시 급락 장에서 AI 인프라 공급업체들의 낙폭이 대형 클라우드 기업보다 컸고, 나스닥 시가총액은 약 2조 5,000억 달러 줄었다. 대형 클라우드 기업은 기존 사업의 막대한 매출로 지출을 조정할 여지가 있지만, 칩·메모리·서버·전력 장비 공급업체는 데이터센터 건설 둔화가 …

이 사안의 흐름

같은 주제를 다룬 이 사이트의 기록 — 최신순

이 글에 나온 말

용어집 전체 →
생성형 AI
생성형 AI는 학습한 데이터의 패턴을 바탕으로 텍스트, 이미지, 음성, 코드 등 새로운 콘텐츠를 만들어내는 인공지능 기술을 말한다.
모델 라우팅
들어온 요청의 난이도나 종류에 따라 서로 다른 모델이나 엔드포인트로 자동 분배하는 오케스트레이션 기법을 말한다.
API
API는 서로 다른 소프트웨어가 기능이나 데이터를 주고받을 수 있도록 정해 놓은 규칙과 창구를 말한다.
토큰
언어 모델이 텍스트를 처리할 때 사용하는 최소 단위로, 단어나 단어의 일부, 문장 부호 등을 가리키는 말이다.

이 분야 브리핑

여러 매체가 함께 다룬 사안을 한 번에

이 페이지는 원문을 요약·재서술하고 이 사이트가 쌓은 기록을 덧붙인 큐레이션입니다. 원문 본문은 싣지 않으며, 수치와 표기는 원문 기준을 유지했습니다. 이 글은 AI의 도움을 받아 작성했습니다.

ZDNet Korea 원문 전체 보기 →

같은 분야의 다른 소식

전체 뉴스 →