모델 857건 · 국산 138 · 가격 690 추적 중
AI 인프라·반도체

AWS, EKS·EFA·DeepEP로 MoE 강화학습 처리량 40% 향상

AWS ML Blog·2026-09-25영문 원문

요약

AWS는 믹스처 오브 엑스퍼트(MoE) 모델을 RLHF나 GRPO로 대규모 강화학습 후속 학습할 때 나타나는 통신 병목 문제를 다뤘다. Amazon EKS와 Elastic Fabric Adapter(EFA), DeepEP를 결합해 전문가 병렬화(Expert Parallelism)의 동적 올투올 토큰 라우팅 통신을 최적화하는 아키텍처를 제시했으며, AWS는 이 구성으로 처리량이 40% 향상됐다고 밝혔다. 대규모 비동기 RL 학습에서는 롤아웃 생성과 정책 학습 간 속도 불균형, 가속기의 컴퓨트·메모리·네트워크 대역폭 부담, 단일 인스턴스를 넘어설 때 노드 내 NVLink에서 노드 간 저대역폭 링크로 통신이 옮겨가는 문제가 동시에 발생한다고 설명했다.

큐레이터 노트

원문에 없는 맥락입니다

MoE 모델은 추론 비용을 낮추기 위해 희소성을 키우지만, 그 결과 학습 단계의 병목이 연산이 아닌 전문가 병렬화 통신으로 옮겨간다는 점을 보여주는 사례다.

다른 매체는 이렇게 썼다

같은 사안을 다룬 다른 곳의 보도입니다

에이수스, NVIDIA Vera CPU 탑재 서버 'XA P2N-E2' 공개
AI타임스 · 2026-11-02

에이수스 코리아가 미국 산호세에서 열린 'OCP 글로벌 서밋 2026'에서 에이전틱 AI 및 강화학습 워크로드에 최적화된 서버 'XA P2N-E2'를 최초로 공개했다. 이 서버는 2U 폼팩터와 NVIDIA MGX 아키텍처를 기반으로 설계됐으며 NVIDIA Vera CPU를 탑재했다. 코…

틸다, AI로 산업현장 전력비용 최적화
IT조선 · 2026-11-01

서울 AI 허브에 입주한 스타트업 틸다가 강화학습 기반 AI 에너지 최적화 솔루션 '아그맥스 파워'를 선보였다. 이 솔루션은 산업 현장의 전력 수요를 분석해 사용 패턴을 최적화함으로써 전기요금 절감을 지원한다. 해당 내용은 서울 AI 허브 입주 스타트업들의 기술과 사업화 현황을 소개하는…

학습 한 번으로 사다리 오르고 균형 잡는 휴머노이드 로봇
ZDNet Korea · 2026-10-30

스위스 취리히 연방공과대학교 연구진이 한 번의 학습만으로 휴머노이드 로봇이 사다리 등반, 장애물 넘기, 추락 후 균형 회복 등 다양한 전신 동작을 수행하도록 하는 '주의 기반 접촉 계획(ACP)' 기술을 개발했다고 인터레스팅엔지니어링이 보도했다. 이 기술은 동작을 미리 정하는 대신 로봇…

이 사안의 흐름

같은 주제를 다룬 이 사이트의 기록 — 최신순

이 글에 나온 말

용어집 전체 →
처리량
처리량은 시스템이 일정 시간 동안 처리할 수 있는 요청 수나 생성 토큰 수를 나타내는 지표를 말한다.
토큰
언어 모델이 텍스트를 처리할 때 사용하는 최소 단위로, 단어나 단어의 일부, 문장 부호 등을 가리키는 말이다.
학습
학습은 모델이 데이터를 반복적으로 살펴보며 예측 오차를 줄이는 방향으로 내부 파라미터를 조정해 나가는 과정을 말한다.

이 분야 브리핑

여러 매체가 함께 다룬 사안을 한 번에

이 페이지는 원문을 요약·재서술하고 이 사이트가 쌓은 기록을 덧붙인 큐레이션입니다. 원문 본문은 싣지 않으며, 수치와 표기는 원문 기준을 유지했습니다.

AWS ML Blog 원문 전체 보기 →

같은 분야의 다른 소식

전체 뉴스 →