예테보리·Chalmers 연구진, 표면 코드 GNN 디코더로 d=3 논리 오류율 1.26% 달성

재정규화 그룹 착안, 계층형 GNN·GRU 구조 설계

기존 AlphaQubit 같은 최첨단 신경망 디코더는 밀집 순환 트랜스포머 블록을 기반으로 하며, 코드 거리 d가 커질수록 어텐션 연산 복잡도가 O(d⁴)로 증가해 대규모 고성능 컴퓨팅 클러스터를 요구한다. 연구팀은 이 문제를 재정규화 그룹 이론에서 착안한 계층적 구조로 우회했다. 3×3×2 시공간 클러스터 단위의 증후군 검출 이벤트를 공유 국소 GNN이 처리하고, 경량 합성곱 집계 레이어가 이를 점진적으로 압축한 뒤, 게이트 순환 유닛(GRU)이 시간 축을 통합하는 3단 파이프라인이 핵심이다. 코드 거리가 d=9까지 확장되어도 소형 합성곱 레이어만 추가되기 때문에 전체 파라미터 수는 약 200~300만 개 수준을 유지하며, 단일 상용 GPU로 학습이 가능하다.

IBM·Google 초전도 하드웨어 데이터 검증 결과

IBM Quantum Nighthawk r1 세대(ibm_berlin) 평면 메모리 실험에서 d=3 코드 거리의 논리 오류율은 MWPM 2.60% 대비 1.26%로 약 절반 수준으로 낮아졌고, d=5에서도 3.79% 대비 2.48%로 개선됐다. Google Quantum AI의 임계값 이하 Sycamore 공개 데이터셋에서는 d=3 약 0.638%, d=5 약 0.330%, d=7 약 0.179%를 기록했으며(Λ≈1.9), Z축 기저 시험에서 AlphaQubit와 유사한 수준에 근접했다. 또한 연속 RX(α) 판독 회전으로 구성한 17가지 상이한 노이즈 환경에서 단일 신경망 모델이 재훈련 없이 환경별 개별 보정 MWPM을 전 오류율 구간에 걸쳐 상회했다.

다중 패치 격자 수술로 확장

모듈형 설계의 강점은 다중 패치 논리 연산으로의 이식성에서도 확인됐다. 두 논리 패치와 그 사이 측정 브리지에 세 GNN 인코더를 타일링 방식으로 배치해 두 패치 d=3 벨 상태 준비 기반 ZZ 병합 격자 수술을 수행했다. 결합 논리 패리티 보정 정확도 58.2%를 달성해 하드웨어 MWPM(56.2%)과 미보정 원시 데이터(54.2%) 모두를 상회했다. 단일 메모리 보존 작업에 한정됐던 기존 신경망 디코더들과 달리 다중 패치 경계를 실시간으로 처리한 사례는 이 분야에서 드물다.

실시간 적용을 위한 과제

현재 구조가 단일 GPU 학습을 가능하게 한다는 점은 실용 측면에서 긍정적이지만, 초전도 프로세서에서 다중 라운드 오류 정정을 스트리밍 처리하려면 마이크로초 이하의 추론 지연이 필요하다. 연구팀은 증후군 적체를 방지하려면 모듈형 GNN-RNN 아키텍처를 FPGA 또는 ASIC 전용 가속기로 컴파일하는 작업이 선행되어야 한다고 지적했다. 해당 연구는 arXiv 프리프린트로 공개됐으며, 모델 코드와 학습 스크립트는 GitHub를 통해 오픈소스로 제공된다.