AWS, EC2 5종으로 Ising Decoding 훈련…거리-31 QEC 지연 2.9배 단축

양자오류정정 사전디코더와 지연 병목

양자오류정정(QEC) 시스템은 논리 큐비트를 다수의 물리 큐비트에 분산 인코딩한 뒤, 매 라운드마다 안정기(stabilizer) 측정으로 시드롬(syndrome)을 추출하고 고전 디코더가 오류 위치를 추론해 복구 명령을 돌려보내는 방식으로 작동한다. 초전도 하드웨어 기준 라운드당 약 1마이크로초 수준의 속도가 요구되는데, 디코더가 이를 따라가지 못하면 처리 지연이 쌓여 연산이 중단된다.

대표적인 디코더인 최소가중완전매칭(MWPM)은 코드 거리가 커질수록 처리 비용이 급격히 증가한다. 신뢰도 높은 단순 오류를 먼저 제거하는 사전디코더(pre-decoder)는 이 병목을 완화하는 방법으로, NVIDIA Ising Decoding은 표면 코드 환경에서 MWPM 앞 단계에 배치되는 AI 기반 사전디코더다.

EC2 인스턴스별 훈련 성능 비교

이번 연구는 P4d(A100), P5(H100), P5en(H200), P6(B200), G6e(L40S)의 5종 인스턴스에서 Ising Decoding을 훈련했다. 모든 인스턴스는 GPU 8개로 구성됐으며, AWS Parallel Computing Service(PCS) 위에서 동일한 컨테이너 이미지를 사용해 하드웨어 세대만 변수로 분리했다. 훈련 데이터는 Stim 시뮬레이터로 생성한 거리-9 표면 코드 시드롬이며, 물리 오류율 p=0.006 조건에서 에포크당 약 6,700만 회 샷을 8개 GPU에 분산했다.

GPU 세대가 올라갈수록 에포크당 훈련 시간은 단조 감소했고, A100 기반 P4d 대비 B200 기반 P6는 최대 약 39% 단축됐다. 다만 최상위 두 인스턴스인 P5en과 P6의 속도 차이는 1~2%에 그쳤고, L40S 탑재 G6e는 H100 탑재 P5 대비 약 6% 느린 수준을 기록해 근사치 성능을 보였다.

비용 대비 성능: 구간별 최적 인스턴스

2026년 10월 기준 미국 동부(버지니아 북부) 리전 온디맨드 가격으로 G6e는 P5 대비 시간당 약 45% 저렴하면서 속도 열세는 약 6%에 그친다. P5en은 P6 대비 약 44% 저렴하면서 속도 차이가 1~2%에 불과하다. 이를 바탕으로 초기 탐색 및 하이퍼파라미터 스윕 단계에서는 G6e, 빠른 수렴이나 더 큰 코드 거리를 위한 GPU 메모리가 필요한 단계에서는 P5en 또는 P6가 실용적인 선택지로 구분된다.

거리-31 코드 추론 검증 결과

훈련된 모델은 P6 인스턴스의 B200 GPU 1개에서 추론 성능을 검증했다. 코드 거리를 5에서 31까지 확장하며 MWPM 단독, Ising Decoding Fast+MWPM, Accurate+MWPM 세 방식의 라운드당 지연과 논리 오류율을 비교했다. 코드 거리가 작을 때는 신경망 고정 오버헤드가 지배적이어서 MWPM 단독이 더 빠르다. 그러나 거리-31에서는 Fast 변형이 MWPM 단독 대비 라운드당 지연을 약 2.4배, Accurate 변형은 약 2.9배 단축했으며, 두 경우 모두 논리 오류율도 함께 개선됐다.

의미와 한계

이 결과는 실제 QPU 없이 클라우드 환경에서 QEC 사전디코더 전체 파이프라인—훈련, 검증, 인스턴스 비용 비교—을 완결할 수 있음을 보여준다. 다만 실제 배포 시에는 QPU 인접 고전 하드웨어에서 실시간 디코딩이 이뤄져야 하므로, 클라우드 벤치마크 결과가 QPU 인접 지연 요건을 그대로 충족한다고 보기는 어렵다. 또한 거리-9 조건으로 훈련된 모델이 거리-31 추론에서 보인 성능 향상이 더 큰 코드 거리나 다른 노이즈 모델로 일반화될지는 추가 검증이 요구된다.