모델 849건 · 국산 132 · 가격 688 추적 중
AI 에이전트·툴 유즈

우버 AI 예산 고갈, 진짜 원인은 비용 측정 실패

CIO Korea·2026-09-28

요약

우버는 2025년 12월 클로드 코드를 도입한 뒤 에이전트 기반 코딩 도구 사용률이 크게 늘면서 2026년 AI 예산을 넉 달 만에 소진했다. 우버는 대응으로 직원별 도구 사용 한도를 설정했지만, 우버 COO는 지출 증가가 실제로 더 많은 기능 출시로 이어졌는지 확인하기 어렵다고 말했다. 칼럼은 문제의 핵심이 토큰 가격 자체가 아니라, 에이전트가 매 단계마다 전체 대화 기록을 다시 전송하면서 청구 대상 입력 토큰이 단계 수에 비례해 눈덩이처럼 불어나는 구조에 있다고 지적한다. 프롬프트 캐싱과 검색 범위 좁히기, 재정렬, 의미 기반 문서 분할, 요약, 중복 제거 같은 검색 설계 개선으로 비용을 줄이면서 관련 없는 컨텍스트를 걸러내 답변 품질도 높일 수 있다고 제안한다.

큐레이터 노트

원문에 없는 맥락입니다

사용량 한도는 예산 초과라는 급한 불을 끄는 임시조치일 뿐, 근본 해법은 작업당 비용을 측정해 재무팀에 예산 확대를 설득할 근거를 만드는 엔지니어링 문제라는 지적이다.

깊이 읽기

이 기사 한 건이 아니라, 같은 사안을 다룬 이 사이트의 기록을 근거로 정리했습니다

이 일이 어디서 왔나

우버는 2025년 12월 클로드 코드를 도입한 뒤 에이전트 사용이 급증해 2026년 AI 예산을 넉 달 만에 소진했다. 비슷한 시기 업계에서는 오픈AI가 9월 22일 GPT-6 프롬프트 캐싱을 강화하고 AWS가 9월 18일 Kimi K3에 캐싱 지원을 추가하는 등, 반복되는 컨텍스트 재전송 비용을 줄이려는 움직임이 이어지고 있다. 앤트로픽도 9월 17일 여러 세션에 걸쳐 장기 작업을 조율하는 '클로드 코드 프로젝트'를 내놓아 에이전트 사용 범위를 넓히는 중이다.

짚어야 할 점

  • 우버 사례의 핵심은 토큰 단가가 아니라 에이전트가 매 단계 전체 대화 기록을 재전송하면서 입력 토큰이 단계 수에 비례해 불어나는 구조 자체다.
  • 오픈AI·AWS가 캐싱 기능을 모델·플랫폼 차원에서 강화하는 동안, 우버는 검색 설계 개선(캐싱, 재정렬, 요약, 중복 제거)을 자체적으로 구현해야 하는 상황이다.
  • 사용량 한도 설정은 예산 초과를 막는 임시조치일 뿐, COO 스스로 지출 증가가 기능 출시로 이어졌는지 확인하기 어렵다고 말한 대목이 근본 문제를 보여준다.
  • 앤트로픽의 클로드 코드 프로젝트처럼 에이전트가 여러 세션·작업을 병렬로 조율하는 방향으로 발전할수록, 우버가 겪은 컨텍스트 누적 비용 문제는 다른 조직에서도 반복될 소지가 있다.

아직 확인되지 않은 것

  • 우버가 책정했던 2026년 AI 예산 규모와 실제 초과 액수는 얼마인지 확인되지 않았다.
  • 직원별 도구 사용 한도 도입 이후 개발 생산성이나 기능 출시 속도에 실제로 어떤 변화가 있었는지는 나오지 않았다.
  • 우버가 칼럼이 제안한 프롬프트 캐싱, 검색 범위 좁히기 같은 개선책을 실제로 도입했는지는 확인되지 않았다.

다른 매체는 이렇게 썼다

같은 사안을 다룬 다른 곳의 보도입니다

AWS, Crawl4AI로 Bedrock 지식베이스용 웹 콘텐츠 정제
AWS ML Blog · 2026-11-02

AWS는 Amazon Bedrock Knowledge Bases에 웹 콘텐츠를 적재하는 방법으로, 기본 제공되는 Amazon Bedrock Web Crawler 외에 오픈소스 크롤러 Crawl4AI를 활용한 사전 정제 파이프라인을 공개했다. Crawl4AI는 페이지에서 본문 영역만 추출…

AI 코딩 비용, 토큰 아닌 '병합된 코드'로 재야 한다
MIT Tech Review · 2026-11-02

AI 코딩 에이전트는 계획-생성-테스트를 반복하며 단순 채팅보다 토큰을 훨씬 많이 소모해 비용 부담이 커지고 있다. 우버는 클로드 코드 사용 확대로 2026년 AI 예산을 4월에 모두 소진했고, 깃허브 코파일럿도 정액제에서 사용량 기반 과금으로 바뀌었으며, 가트너는 2028년까지 AI …

인젠트, 기업 문서·DB 연결해 AI 신뢰성 높이는 전략 공개
ZDNet Korea · 2026-11-02

인젠트가 '문서중앙화에서 AX 플랫폼으로' 웨비나를 열고 기업 내부 문서와 정형 데이터를 연결해 AI 업무에 활용하는 데이터 관리 전략을 발표했다. 문서중앙화 시스템의 보안 정책을 AI 검색 환경까지 일관되게 적용해, 열람 권한이 없는 사용자가 AI 답변을 통해 기밀정보를 확인하는 문제…

이 사안의 흐름

같은 주제를 다룬 이 사이트의 기록 — 최신순

이 글에 나온 말

용어집 전체 →
프롬프트 캐싱
프롬프트 캐싱은 반복적으로 사용되는 긴 프롬프트의 앞부분(시스템 프롬프트, 도구 정의, 참고 문서 등)을 서버에 저장해 두었다가 이후 요청에서 재사용함으로써 응답 속도를 높이고 비용을 줄이는 기능을 말한다.
프롬프트
AI 모델에게 원하는 작업을 지시하기 위해 입력하는 텍스트를 말한다.
정렬
AI 시스템의 행동과 산출물이 인간이 의도한 목표, 가치, 지시와 어긋나지 않도록 만드는 기법과 연구 분야를 말한다.
토큰
언어 모델이 텍스트를 처리할 때 사용하는 최소 단위로, 단어나 단어의 일부, 문장 부호 등을 가리키는 말이다.

이 분야 브리핑

여러 매체가 함께 다룬 사안을 한 번에

이 페이지는 원문을 요약·재서술하고 이 사이트가 쌓은 기록을 덧붙인 큐레이션입니다. 원문 본문은 싣지 않으며, 수치와 표기는 원문 기준을 유지했습니다.

CIO Korea 원문 전체 보기 →

같은 분야의 다른 소식

전체 뉴스 →