AWS, EKS서 NVRx로 장애 허용 분산 학습 구현
요약
AWS가 Amazon EKS 환경에서 NVIDIA Resiliency Extension(NVRx)을 PyTorch FSDP 학습에 통합해 장애 허용 분산 학습을 구현하는 방법을 블로그로 공개했다. 비동기 체크포인트로 I/O와 학습을 병행하고, 인프로세스 재시작으로 컨테이너를 건드리지 않고 소프트 장애를 복구하며, ft_launcher로 하드 크래시 시 워커를 자동 재생성하는 3단계 복구 계층을 소개했다. 동기 체크포인트가 전체 대기 시간의 최대 40%를 차지했다고 설명했다. p5.48xlarge H100 GPU 노드와 Amazon FSx for Lustre 공유 스토리지를 활용해 2~8노드 규모에서 벤치마크를 수행했다.
큐레이터 노트
원문에 없는 맥락입니다
대규모 분산 학습에서는 장애가 통계적으로 불가피하다는 전제 아래, 체크포인트 I/O 대기와 복구 시간을 줄이는 것이 GPU 시간 낭비를 막는 실질적 방법이라는 점을 보여주는 기술 사례다.
다른 매체는 이렇게 썼다
같은 사안을 다룬 다른 곳의 보도입니다
세종대, IoT에 AI 모델·데이터 관리 국제표준 개발
전자신문 SW · 2026-11-03
세종대학교가 IoT 국제표준 '원 M2M'에 AI 기술을 접목하는 표준화 연구로 2026년 AIoT 어워드 표준 부문 한국정보통신기술협회장상을 받았다. 세종대는 IoT 플랫폼에서 AI 모델과 학습 데이터를 관리하기 위한 국제표준 개발을 추진해왔다. 기술보고서 'TR-0068'에서 AI와…
이 사안의 흐름
같은 주제를 다룬 이 사이트의 기록 — 최신순
- 2026-10-28AWS, Ray Train DLC로 EKS 분산 학습 환경 간소화AWS ML Blog
- 2026-10-08AWS, SageMaker HyperPod로 GPU 클러스터 팀간 공유 구조 제시AWS ML Blog
- 2026-10-06AWS, SageMaker HyperPod 거버넌스 모범사례 제시AWS ML Blog
- 2026-10-01AWS, NeMo 에이전트 툴킷에 S3 Vectors로 메모리 구현AWS ML Blog
- 2026-09-25AWS, EKS·EFA·DeepEP로 MoE 강화학습 처리량 40% 향상AWS ML Blog
- 2026-09-25SageMaker HyperPod-Qumulo, 리전 간 분산 학습 검증AWS ML Blog
이 글에 나온 말
이 분야 브리핑
여러 매체가 함께 다룬 사안을 한 번에
이 페이지는 원문을 요약·재서술하고 이 사이트가 쌓은 기록을 덧붙인 큐레이션입니다. 원문 본문은 싣지 않으며, 수치와 표기는 원문 기준을 유지했습니다.
같은 분야의 다른 소식
- AWS, 에이전트 평가에 결정 모델 연동 방법 공개AWS ML Blog · 2026-11-04
- kitty 0.50, 창 도킹과 세션 복원 기능 추가GeekNews · 2026-11-04
- 유엔넷, 코스콤 차세대 원장시스템에 '타란툴라DB' 공급ZDNet Korea · 2026-11-04
- 네이버 FE News, 2026년 11월 프런트엔드 소식 모음NAVER D2 · 2026-11-04
- Revolut, 코딩 작업 자체 호스팅 GLM으로 전환GeekNews · 2026-11-03
- 타임아웃을 하드코딩하지 말아야 하는 이유GeekNews · 2026-11-03