NVIDIA·Jülich, JUPITER에서 104큐비트 매직 상태 컬티베이션 시뮬레이션 완료

시뮬레이션 개요: 엑사스케일 위에서의 내결함성 프로토콜 검증

JUPITER는 8,192개의 NVIDIA GH200 Grace Hopper 슈퍼칩을 Bull 엑사스케일 인터커넥트로 연결한 시스템으로, 유럽 첫 엑사스케일급 슈퍼컴퓨터다. NVIDIA와 JSC 연구진은 이 인프라 위에서 매직 상태 컬티베이션 프로토콜을 104큐비트 규모로 시뮬레이션했다. 매직 상태 컬티베이션은 초전도 큐비트 기반 내결함성 양자 연산에서 비클리퍼드 게이트를 구현하는 핵심 자원으로, 범용 양자 연산 구현에 반드시 필요한 요소다.

오류 정정 구조는 거리-3 컬러 코드에서 시작해 거리-7 하이브리드 컬러/서피스 코드로 전환하는 방식이며, 능동적 플래그 오류 감지 기법을 포함한다. 노이즈 모델로는 결맞음 위상 노이즈와 3준위 누설을 동시에 적용해, 실제 하드웨어에 가까운 조건을 구현했다.

쿠트리트 인코딩과 512 TiB 분산 GPU 메모리

이번 시뮬레이션의 기술적 핵심 중 하나는 3준위 쿠트리트(qutrit) 누설을 이진 레지스터로 압축하는 인코딩 방식이다. 초전도 큐비트에서는 계산 부분공간(|0⟩, |1⟩)을 벗어난 세 번째 에너지 준위(|2⟩)로 상태 집단이 흘러들어가는 누설 현상이 발생한다. 쿠트리트 5개는 243개의 기저 상태를 갖는데, 연구진은 이를 8비트 이진 패킹으로 압축 표현했다. 이 접근은 Gottesman-Knill 정리의 스태빌라이저 타블로 방식으로 처리 불가능한 비마르코프 노이즈와 비클리퍼드 연산을 시뮬레이션하기 위한 것이다.

45비트 인코딩 기준 상태 벡터는 약 35.2조 개의 복소 진폭을 추적하며, 8,192개 GH200 노드(노드당 64 GiB)에 분산된 512 TiB의 GPU 메모리가 투입됐다. 소프트웨어 스택으로는 NVIDIA CUDA-Q와 cuQuantum(cuStateVec), 분산 인수분해를 위한 cuBLASMp·cuSOLVERMp가 활용됐다.

NVAQC의 단계적 스케일링: 개발 기간 수 주에서 수 일로

엑사스케일 런에 앞서, NVIDIA가 신설한 NVIDIA 가속 양자 연구센터(NVAQC)의 GB200 NVL72 Grace Blackwell 랙에서 개발과 검증이 선행됐다. 4개 GPU부터 수백 개 GPU까지 단계적으로 규모를 늘려가며 병렬화를 최적화한 뒤 JUPITER에 투입하는 방식을 택함으로써, 개발 주기를 수 주에서 수 일 수준으로 단축했다고 연구진은 밝혔다.

기술적 의미와 한계

이번 시뮬레이션은 Google Quantum AI가 이론으로 제안한 매직 상태 컬티베이션 프레임워크와, Google Willow 하드웨어에서 실제로 시연한 컬티베이션 결과(Science 게재)를 GPU 시뮬레이션 차원에서 확장·보완한다. 기존 캐스케이드 증류 공장 방식 대비 최대 90% 물리적 큐비트 오버헤드 절감 가능성을 수치로 제시한 점은, 실용적 내결함성 양자 컴퓨터 설계에서 필요 자원 규모를 재평가할 근거가 된다.

다만 이번 성과는 어디까지나 시뮬레이션 수준의 검증이다. 실제 물리 큐비트에서 동일한 프로토콜을 구현했을 때 동등한 성능을 보이는지는 별도의 하드웨어 실험으로 확인해야 한다. 또한 이 규모의 시뮬레이션을 단일 연구 목적으로 엑사스케일 전체 자원에 투입해야 한다는 점은, 반복 실험 용도보다 프로토콜 타당성 증명에 특화된 접근임을 의미한다.