AI도 가성비 시대...빅테크의 '토큰 다이어트'

글로벌 빅테크의 AI 경쟁이 성능 중심에서 비용 효율을 높이는 방향으로 바뀌고 있다. 기업들은 업무 난도에 맞춰 저비용·고성능 모델을 구분해 쓰는 '모델 라우팅'과 기기 내부에서 작동하는 온디바이스 AI로 토큰 소비를 줄이고 있다. 앤트로픽은 모델을 하이쿠·소넷·오퍼스로 구분해 제공하고, AWS 베드록도 업무에 맞는 모델 선택을 지원한다. 인터컴·젠데스크·민틀리파이 등은 호출 횟수 대신 실제 업무 해결 여부로 요금을 매기는 성과 기반 과금을 도입했다. SK텔레콤은 전 구성원이 AI 에이전트를 직접 만들어 쓰는 'AX' 전환을 추진하며 조직의 일하는 방식 자체를 바꾸려 하고 있다.

이 일이 어디서 왔나

이 기사는 앤트로픽의 모델 등급화, 성과 기반 과금과 함께 SK텔레콤의 AX 사례를 비용 효율화의 한 예로 들었다. SK텔레콤은 이후 공개한 'AX 2.0' 전략에서 개인 단위 AI 에이전트 활용(1인 1에이전트)만으로는 데이터 접근권한·시스템 연동·보안 같은 과제를 풀 수 없었다며 전사 조직·제도로 확장한다고 밝혔다. 한편 LG CNS·삼성SDS 등은 금융권 등에서 AI 에이전트 도입이 늘며 SI·클라우드 매출이 함께 커지고 있다고 설명했다.