Rutgers·IBM, 100큐비트 양자 혼돈 실시간 피드백 억제 실증…Nature Physics 게재

실험 구성과 규모

연구팀은 IBM Quantum의 156큐비트 Heron 프로세서에서 서로 연결된 최대 100큐비트 체인을 선택해 실험을 진행했다. 프로세서가 멈추지 않고 작동하는 상태에서 약 5,000회의 2큐비트 얽힘 연산과 거의 동수의 측정·리셋을 반복 수행하는 방식을 채택했다. 연구팀은 이를 이 접근 방식으로는 역대 최대 규모의 성공 사례로 규정했다.

실험의 핵심 구조는 두 가지 경쟁 작업 사이의 비율을 조절하는 것이었다. 하나는 인접 큐비트 간 정보를 뒤섞어 혼돈을 유발하는 스크램블링 연산이고, 다른 하나는 개별 큐비트를 점검·리셋해 시스템을 연구팀이 목표로 하는 질서 상태로 유도하는 제어 연산이다.

혼돈에서 질서로: 양자 위상 전이 확인

두 작업의 비율을 조정하자 시스템 거동이 뚜렷하게 갈렸다. 스크램블링 비율이 절반을 넘으면 시스템은 혼돈 상태를 유지했고, 리셋 비율이 높아지면 질서 상태로 수렴했다. 두 비율이 약 50대 50에 가까운 임계점에서 전체 시스템이 혼돈에서 질서로 급격히 전환되는 현상이 나타났다. 연구팀은 이를 물이 얼음이 되는 것과 같은 위상 전이로 분류했으며, 이러한 전이가 양자 물리학에서도 성립한다는 이론적 예측을 실험으로 뒷받침했다.

시스템 규모가 커질수록 이 전이가 더 선명해진다는 점도 확인됐다. 기존 컴퓨터로 시뮬레이션할 수 있는 한계가 약 24큐비트 수준인데, 이번 실험은 그 한계를 크게 넘어선 100큐비트에서도 이론 예측과 실험 결과가 일치함을 보였다. 이는 관찰된 위상 전이가 소규모 회로에서만 나타나는 우연이 아니라 양자 시스템의 집단적 행동임을 시사한다.

내결함성 양자컴퓨팅과의 연관성

이번 실험의 의미는 내결함성 양자컴퓨터 구현이라는 장기 목표와 직결된다. 내결함성 양자컴퓨터는 개별 큐비트가 지속적으로 작은 오류를 일으키더라도 계산을 올바르게 유지해야 하며, 이를 위해서는 계산 도중에도 오류를 탐지하고 수정하는 실시간 피드백 능력이 필수다. 이번 실험은 현재의 양자 하드웨어가 이미 수천 회 이상의 대규모 실시간 연산 조율 능력을 갖추고 있음을 실제로 확인했다.

다만 이번 시연이 내결함성을 위한 실시간 피드백 제어 능력을 검증한 것이지, 완전한 양자 오류 정정 코드를 구현한 것은 아니다. 현재까지 완전한 내결함성 양자컴퓨터는 아직 구현된 바 없으며, 실용 수준 도달까지는 추가적인 기술 개발이 필요하다.

연구의 기원과 협력 구성

연구의 출발점은 2021년 Jedediah Pixley 교수 부인의 생일 파티에서 비롯된 동료 Sriram Ganeshan과의 내기였다. 내기는 양자 효과에 고전물리학적 대응 현상이 존재하는지를 놓고 벌어졌고, 이 과정에서 도출된 이론이 IBM과의 협업으로 이어졌다. Pixley 교수가 내기에서 져 블루베리 아이스크림 두 스쿱을 지불하는 것으로 정산이 이뤄졌다. Rutgers와 IBM 외에 뉴욕시립대학교, 아이오와주립대학교, Ames 국립연구소, 펜실베이니아주립대학교, 루이지애나주립대학교 연구자들이 이번 연구에 함께 참여했다.