LTM, IBM 양자 함수 카탈로그 첫 SI 등재…AI-QEM 100큐비트 정확도 95%

글로벌 SI 최초의 IBM 양자 함수 카탈로그 등재

LTM은 ltm/ai-qem 인터페이스를 통해 AI-QEM 회로 함수를 IBM 양자 함수 카탈로그에 배포했다. 이 함수는 IBM 양자 프리미엄·플렉스·온프레미스 플랜 이용자가 Qiskit EstimatorV2 워크플로에 직접 통합해 사용할 수 있다. 글로벌 SI 가운데 이 카탈로그에 회로 함수를 게시한 사례는 LTM이 처음이다.

기존 양자 오류 완화 기법인 영점 잡음 외삽법(ZNE)이나 확률적 오류 소거(PEC)는 변형된 회로 앙상블을 반복 실행하는 구조여서 QPU 사용 시간이 지수적으로 증가하는 단점이 있었다. AI-QEM은 이러한 추가적인 양자 샘플링 단계 없이, 오직 고전 딥러닝 추론만으로 잡음을 억제한다는 점에서 접근 방식이 근본적으로 다르다.

기술 원리: GCN-Transformer와 파울리 보정 계수

AI-QEM의 핵심은 그래프 합성곱 신경망(GCN)과 트랜스포머를 결합한 모델이다. 회로 구조, 백엔드 토폴로지, 큐비트 교정 데이터를 입력받아 파울리 연산자별 보정 계수 ζᵢ를 예측하고, 잡음이 포함된 기댓값을 해당 계수로 나눠 완화된 기댓값을 산출한다. QPU 추가 실행, 회로 반복, 보조 큐비트가 전혀 필요 없으며, ibm_kingston 기준으로 가환 항 처리 시 12초, 비가환 항 처리 시 23초로 기본 EstimatorV2의 처리 시간과 동일하게 맞춰진다.

성능 벤치마크

IBM Heron r2 프로세서에서 최대 100큐비트까지 검증이 이뤄졌다. 깊이 45의 100큐비트 클리포드 회로에서 95.06%의 정확도를 달성했으며, 96큐비트 2차원 이징 모델 시뮬레이션에서는 90.29%를 기록했다. 80~150큐비트 규모의 검증 세트 전반에서 평균 절대 오차(MAE)는 0.343으로, 랜덤 포레스트 기반 완화 기준선을 웃돌았다. 이번 출시와 함께 2D 기울어진 필드 이징 모델의 트로터화 시간 진화를 다루는 IBM 양자 공식 튜토리얼도 함께 공개됐다.

현재 적용 범위와 한계

AI-QEM은 현재 IBM Heron 프로세서 계열에만 적용되며, 잡음 포함 기댓값의 절댓값이 0.1 이상인 조건에서만 작동하도록 설계됐다. 기댓값이 영(0) 근방일 경우 잡음 증폭을 방지하기 위해 완화를 적용하지 않는다. 게이트 오류와 환경 디코히런스에 의한 오류 편향은 회로 깊이와 큐비트 수 증가에 따라 심화되는데, 고전 모델이 모든 오류 경로를 완벽히 학습했는지에 대한 검증은 더 넓은 프로세서 패밀리로의 확장과 함께 추가적으로 필요하다.