모델 849건 · 국산 132 · 가격 688 추적 중
MLOps·개발도구

AWS, GPU 관리 없는 모델 커스터마이징 '트레이닝 세션' 정식 출시

AWS ML Blog·2026-10-22영문 원문

요약

AWS가 SageMaker AI 서버리스 모델 커스터마이징의 '트레이닝 세션' 기능을 정식 출시했다. 사용자는 커스텀 손실 함수나 보상 신호를 포함한 훈련 루프 코드를 직접 작성하고, GPU 할당·분산 실행·장애 복구·체크포인트 저장은 SageMaker AI가 처리한다. SFT, DPO, RLVR, RLAIF, 멀티턴 강화학습 등 다양한 기법을 사용할 수 있으며 LoRA나 전체 파인튜닝 선택도 가능하다. ImagineSoftware는 의료 청구 거절 분류 모델에, Karini AI는 Amazon Neptune 지식그래프를 활용한 에이전틱 멀티턴 도구 호출을 위해 gpt-oss-20b를 파인튜닝하는 데 이 기능을 사용했다고 밝혔다.

큐레이터 노트

원문에 없는 맥락입니다

여행 예약이나 상담 응대처럼 여러 차례 상호작용을 거쳐야 결과를 평가할 수 있는 에이전트용 멀티턴 강화학습은 훈련·추론·채점 단계마다 서로 다른 인프라를 연결해야 했는데, 이 기능은 그 연결 작업을 플랫폼이 대신 맡는 방식이다.

깊이 읽기

이 기사 한 건이 아니라, 같은 사안을 다룬 이 사이트의 기록을 근거로 정리했습니다

이 일이 어디서 왔나

이 기사는 같은 날 공개된 '트레이닝 세션 API' 소개 보도와 짝을 이루는 정식 출시 소식으로, AWS가 forward_backward·optim_step·sample 같은 저수준 연산과 토큰 단위 과금 구조를 먼저 선보인 데 이어 실제 고객 사례를 더해 공개한 것이다. SFT, DPO, RLVR 등 다양한 커스텀 학습 기법을 GPU 관리 없이 서버리스로 지원하겠다는 AWS의 전략이 이번 정식 출시로 구체화됐다.

짚어야 할 점

  • 핵심은 멀티턴 강화학습에서 훈련·추론·채점마다 따로 인프라를 연결해야 했던 번거로움을 플랫폼이 대신 처리한다는 점으로, 에이전트형 학습 수요를 겨냥한 설계다.
  • GPU·인프라 복잡성을 서버리스로 흡수하려는 흐름은 데이터브릭스가 '기존 네트워크 구성의 복잡성이 서버리스 전환을 막는다'고 지적한 문제의식과 맞닿아 있다.
  • 공개된 ImagineSoftware, Karini AI 사례는 모두 AWS와의 협력에서 나온 것으로 구체적 성능 수치는 제시되지 않았다.

아직 확인되지 않은 것

  • 토큰 단위 과금이 기존 GPU 인스턴스 직접 임대 방식보다 실제로 비용 효율적인지는 확인되지 않았다.
  • ImagineSoftware의 청구 거절 분류 모델이나 Karini AI의 gpt-oss-20b 파인튜닝이 어느 정도 성능 개선을 보였는지는 공개되지 않았다.
  • 멀티턴 RL 채점 단계에서 발생할 수 있는 지연이나 대규모 확장 시의 한계에 대한 자료는 나오지 않았다.

다른 매체는 이렇게 썼다

같은 사안을 다룬 다른 곳의 보도입니다

에이수스, NVIDIA Vera CPU 탑재 서버 'XA P2N-E2' 공개
AI타임스 · 2026-11-02

에이수스 코리아가 미국 산호세에서 열린 'OCP 글로벌 서밋 2026'에서 에이전틱 AI 및 강화학습 워크로드에 최적화된 서버 'XA P2N-E2'를 최초로 공개했다. 이 서버는 2U 폼팩터와 NVIDIA MGX 아키텍처를 기반으로 설계됐으며 NVIDIA Vera CPU를 탑재했다. 코…

틸다, AI로 산업현장 전력비용 최적화
IT조선 · 2026-11-01

서울 AI 허브에 입주한 스타트업 틸다가 강화학습 기반 AI 에너지 최적화 솔루션 '아그맥스 파워'를 선보였다. 이 솔루션은 산업 현장의 전력 수요를 분석해 사용 패턴을 최적화함으로써 전기요금 절감을 지원한다. 해당 내용은 서울 AI 허브 입주 스타트업들의 기술과 사업화 현황을 소개하는…

학습 한 번으로 사다리 오르고 균형 잡는 휴머노이드 로봇
ZDNet Korea · 2026-10-30

스위스 취리히 연방공과대학교 연구진이 한 번의 학습만으로 휴머노이드 로봇이 사다리 등반, 장애물 넘기, 추락 후 균형 회복 등 다양한 전신 동작을 수행하도록 하는 '주의 기반 접촉 계획(ACP)' 기술을 개발했다고 인터레스팅엔지니어링이 보도했다. 이 기술은 동작을 미리 정하는 대신 로봇…

이 사안의 흐름

같은 주제를 다룬 이 사이트의 기록 — 최신순

이 글에 나온 말

용어집 전체 →
파인튜닝
사전 학습된 대규모 언어 모델을 특정 작업이나 도메인의 데이터로 추가 학습시켜 성능과 응답 방식을 맞춤화하는 과정을 말한다.
LoRA
LoRA(Low-Rank Adaptation)는 대형 신경망의 원래 가중치는 고정한 채, 작은 저랭크 행렬 쌍을 추가로 학습시켜 모델을 특정 작업에 맞게 미세조정하는 기법을 말한다.
API
API는 서로 다른 소프트웨어가 기능이나 데이터를 주고받을 수 있도록 정해 놓은 규칙과 창구를 말한다.
학습
학습은 모델이 데이터를 반복적으로 살펴보며 예측 오차를 줄이는 방향으로 내부 파라미터를 조정해 나가는 과정을 말한다.

이 분야 브리핑

여러 매체가 함께 다룬 사안을 한 번에

이 페이지는 원문을 요약·재서술하고 이 사이트가 쌓은 기록을 덧붙인 큐레이션입니다. 원문 본문은 싣지 않으며, 수치와 표기는 원문 기준을 유지했습니다.

AWS ML Blog 원문 전체 보기 →

같은 분야의 다른 소식

전체 뉴스 →