IQM·Volkswagen, QC-AFQMC 후처리 복잡도 한 차수 낮춰 50오비탈 124배 가속

연구 배경: 배터리 화학의 계산적 한계

리튬-공기 배터리의 충방전 반응 중간 단계를 정밀하게 시뮬레이션하려면 강한 전자 상관을 포착할 수 있는 다중 기준 전자구조 방법이 필요하다. 그러나 필요한 슬레이터 행렬식의 수가 지수적으로 증가하기 때문에, 고전 컴퓨팅 단독으로는 사실상 계산이 불가능하다. 고전 무위상 AFQMC(ph-AFQMC)는 부호 문제를 완화하지만, 시험 파동함수가 다중 기준 특성을 충분히 표현하지 못하면 계통적 편향을 피할 수 없다. QC-AFQMC는 양자 컴퓨터를 활용해 고충실도 다중 행렬식 시험 상태를 준비함으로써 이 문제를 우회하려 했으나, 양자 시험 상태와 고전 몬테카를로 보행자 간 중첩 계산이 과도한 계산 병목으로 작용해 왔다.

알고리즘 혁신: 매치게이트 섀도와 아이트켄 변환

연구팀은 기존에 제안된 변형 아다마르 테스트 회로 방식 대신 매치게이트 섀도 토모그래피를 채택해 고전 후처리 단계에서 상태 중첩을 재구성했다. 이 커널에서 자연스럽게 발생하는 특이 페파이언(singular Pfaffian) 문제를 아이트켄 블록 변환으로 해소해 스냅샷당 중첩 평가 비용을 O(N⁴)에서 O(N³)으로 줄였다. 여기에 힘 편향 계산의 야코비안-벡터 곱에 알고리즘 미분을 도입하면서, 단계당 고전 후처리 전체 스케일링이 Õ(N⁵·⁵)에서 Õ(N⁴·⁵)로 한 차수 낮아졌다. 그 결과 50오비탈 벤치마크에서는 최대 124배, 100오비탈 추정치로는 최대 248배의 고전 실행 시간 단축이 가능해졌다. 이전 구현에서는 50개 이상 오비탈 계산에 대형 클러스터 기준으로 수년이 소요되던 작업이다.

하드웨어 검증: IQM Emerald 54큐비트 프로세서

알고리즘 개선이 실제 하드웨어 잡음 환경에서도 작동하는지 확인하기 위해, 연구팀은 H8 수소 체인의 바닥 상태 에너지를 IQM의 상용 54큐비트 Emerald 초전도 프로세서에서 직접 계산했다. 하드웨어 잡음으로 인한 측정 오류를 걸러내는 데는 행렬 곱 상태(MPS) 기반 텐서 네트워크 오류 필터링이 적용됐다. 이를 통해 소규모 토이 모델에 그쳤던 기존 실험 검증의 범위를 처음으로 의미 있는 오류 완화 조건에서의 하드웨어 실증으로 확장했다.

산업 벤치마크: Li2O4 40큐비트 시뮬레이션

배터리 소재 연구의 현실적 복잡도를 반영하기 위해, 연구팀은 리튬 과산화물 이중체(Li2O4)의 재배열 반응 경로를 고전 시뮬레이션으로 모델링했다. 20오비탈에 26전자를 배치한 40큐비트 활성 공간을 사용해, 배터리 충방전 메커니즘을 결정하는 활성화 장벽과 전이 상태 형상을 정확하게 포착했다. 기존 QC-AFQMC 구현에서는 활성 공간 모델이 20큐비트 이하에 그쳤던 점에 비하면 두 배 규모의 확장이다.

의미와 한계

이번 성과는 양자-고전 혼합 전자구조 알고리즘이 단순한 개념 증명을 넘어 산업적 소재 계산에 근접할 수 있음을 보여준다는 점에서 주목된다. 다만 현 단계에서 40큐비트 활성 공간 모델링은 아직 고전 시뮬레이션 조건에서 수행된 것이며, 양자 하드웨어 직접 실행은 훨씬 소규모인 H8 수준에 머물러 있다. 충실도 한계, 실제 하드웨어 큐비트 수, 오류율 등을 고려하면 실용적 배터리 소재 양자 계산까지는 추가적인 하드웨어·알고리즘 발전이 필요하다.