연세대, IBM 나이트호크 R2 세계 최초 도입…회로 처리량 기존 대비 25배 향상

세계 첫 나이트호크 R2 고객사

연세대는 2024년 국내 최초·세계 대학 중 두 번째로 IBM 퀀텀 시스템 원을 도입한 데 이어, IBM 고객사 중 처음으로 나이트호크 R2 프로세서를 설치했다. 가동식에는 정재호 연세대 양자사업단장과 IBM 펠로우 겸 양자중심슈퍼컴퓨팅 CTO 제리 차우(Jerry Chow)가 참석해 성능 개요와 향후 로드맵을 발표했다.

나이트호크 R2는 120개의 프로그래머블 큐비트를 갖추며, 급속 리셋(Fast Reset) 아키텍처를 핵심 구조로 채택했다. 이 기술은 각 큐비트가 연산 후 기저 상태로 복귀하는 시간을 능동적으로 단축해 대기 지연을 줄인다. 그 결과 초당 10만 회 이상의 회로를 처리할 수 있으며, 이는 이전 이글 프로세서 대비 25배에 달하는 수치다. 2큐비트 게이트 연산 정확도는 약 99.7%이며, 최적 조건에서는 오류율이 0.1% 아래로 내려간다.

2년간의 생태계 구축 성과

도입 이후 2년 동안 연세대는 물리·화학·소재·금융·생물학·신약 개발 등 여러 영역에서 양자 알고리즘을 적용한 연구 논문 100편 이상을 발표했다. 2025년에는 양자정보과학대학원 과정을 신설해 석·박사 과정 학생 50여 명을 교육 중이며, 퀀텀 아카데미를 통해 초·중·고교생과 일반인을 합산해 연간 2,000명에게 양자 교육을 제공하고 있다.

국제 협력 측면에서는 일본 이화학연구소(RIKEN)의 슈퍼컴퓨터 후카쿠(Fugaku)와 네트워크를 연결해 양자-클래식 하이브리드 컴퓨팅 환경을 구성했고, 영국 케임브리지대학교와도 공동 연구를 이어가고 있다. 외부 스타트업 등도 시스템을 사용할 수 있도록 접근을 열어두는 개방형 운영 방식도 유지하고 있다.

신약 개발 기간 단축: 실증 사례와 과제

연세대가 지금까지 보고한 성과 중 가장 구체적인 사례는 신약 전임상 단계의 기간 단축이다. 질병 원인 단백질 타깃 탐색은 기존 1~2년에서 5개월로, 선도물질 최적화는 4년에서 2년으로 각각 줄였다고 밝혔다. 신약 개발 전 주기가 통상 15년에 이르는 현실에서, 임상시험을 제외한 전임상 탐색·최적화 구간의 단축은 연구자원 집중 투자 대비 효율을 높이는 전략으로 볼 수 있다.

정재호 단장은 완벽한 계산 정확도보다 기존 방식 대비 부분적 개선이라도 임상적·사회적 가치를 창출할 수 있다는 입장을 강조했다. 앞으로 양자 알고리즘과 AI를 결합한 하이브리드 병렬 계산 파이프라인을 구축해 이 성과를 더욱 확대할 계획이다.

다만, 보고된 기간 단축이 양자컴퓨터 단독 기여인지 양자-AI 하이브리드 방법론의 복합 효과인지는 현 단계에서 명확히 구분되지 않는다. 현재 시스템 규모와 오류율을 고려할 때 복잡 분자 시뮬레이션을 완전한 양자 방식으로 처리하기에는 큐비트 수와 오류 정정 성능 모두 추가 발전이 필요한 상황이다.

IBM의 차세대 로드맵

제리 차우 CTO는 차세대 나이트호크에서 프로그래머블 큐비트를 500개 이상으로 늘리고, 2년 이내에 모듈 연동 방식으로 1,000큐비트 이상 시스템을 구동하겠다는 계획을 공개했다. 모듈화 연동 아키텍처는 단일 프로세서의 물리적 한계를 우회해 큐비트 규모를 확장하는 현실적 경로 중 하나로 주목받고 있다.

한편 연세대는 11월 4일부터 6일까지 연세 퀀텀 국제 컨퍼런스를 개최하며, 최종일에는 제약·바이오·AI 산업과의 융합 전략을 논의하는 별도 글로벌 서밋도 진행된다.