변분 양자 고유값 계산(VQE): 원리와 구현

먼저 읽으면 좋은 용어

개념 소개

VQE(Variational Quantum Eigensolver)는 2014년 Peruzzo 등이 제안한 하이브리드 양자-고전 알고리즘으로, 양자 회로가 상태를 준비하고 에너지를 측정하면 고전 컴퓨터가 그 결과를 바탕으로 회로 파라미터를 반복적으로 갱신한다. 핵심 아이디어는 양자역학의 변분 원리에서 비롯된다.

변분 원리는 다음과 같이 서술된다. 임의의 시험 상태 $∣ ψ (θ)⟩$ 에 대해, 해밀토니안 $H$ 의 기댓값은 바닥 상태 에너지 $E_{0}$ 보다 항상 크거나 같다.

$E (θ) = ⟨ ψ (θ) ∣ H ∣ ψ (θ)⟩ \geq E_{0}$

따라서 파라미터 벡터 $θ$ 를 조정하여 $E (θ)$ 를 최소화하면, 바닥 상태 에너지와 그에 대응하는 상태에 점진적으로 수렴하게 된다.

핵심 원리

1. 앤사츠(Ansatz) 설계

앤사츠란 파라미터화된 양자 회로 $U (θ)$ 로, 초기 상태 $∣0 ⟩^{\otimes n}$ 에 적용하여 시험 상태 $∣ ψ (θ)⟩ = U (θ) ∣0 ⟩^{\otimes n}$ 을 생성한다. 앤사츠 선택은 VQE 성능에 결정적이다.

UCC(Unitary Coupled Cluster) 앤사츠: 양자 화학에서 이론적 근거가 강하며, UCCSD(Singles and Doubles) 변형이 자주 사용된다.
하드웨어 효율 앤사츠(HEA): 실제 칩 연결 구조에 맞춰 회로 깊이를 줄이고 잡음을 최소화한다.

2. 해밀토니안 분해

분자 해밀토니안은 파울리 연산자의 선형 결합으로 표현된다.

$H = k \sum c_{k} P_{k}, P_{k} \in {I, X, Y, Z}^{\otimes n}$

각 파울리 항의 기댓값을 양자 회로에서 개별 측정한 뒤 고전적으로 합산하여 $E (θ)$ 를 계산한다.

3. 파라미터 경사도 계산

고전 최적화기에 경사도를 제공할 때 **파라미터 이동 규칙(parameter-shift rule)**을 활용한다.

$\frac{\partial E}{\partial θ _{j}} = \frac{1}{2} [E (θ_{j} + \frac{π}{2}) - E (θ_{j} - \frac{π}{2})]$

이 규칙은 실제 양자 하드웨어에서 해석적 경사도를 정확히 계산할 수 있게 해준다.

4. 고전 최적화 루프

COBYLA, L-BFGS-B, SPSA 등 다양한 최적화기가 사용된다. SPSA(Simultaneous Perturbation Stochastic Approximation)는 잡음이 있는 환경에서 수렴 안정성이 높아 실제 하드웨어에 적합하다.

예시·응용

수소 분자 ( $H_{2}$ ) 바닥 상태 에너지

$H_{2}$ 의 STO-3G 기저에서 해밀토니안은 4개의 큐비트와 수십 개의 파울리 항으로 표현된다. Qiskit을 이용한 간단한 VQE 골격 코드는 다음과 같다.

from qiskit_nature.second_q.drivers import PySCFDriver
from qiskit_nature.second_q.mappers import JordanWignerMapper
from qiskit_algorithms import VQE
from qiskit_algorithms.optimizers import SLSQP
from qiskit.primitives import Estimator
from qiskit_nature.second_q.circuit.library import UCCSD, HartreeFock

# 분자 정의 및 해밀토니안 생성
driver = PySCFDriver(atom="H .0 .0 .0; H .0 .0 0.735", basis="sto3g")
problem = driver.run()
mapper = JordanWignerMapper()
hamiltonian = mapper.map(problem.second_q_ops()[0])

# 앤사츠 구성 (UCCSD)
hf_state = HartreeFock(problem.num_spatial_orbitals,
                        problem.num_particles, mapper)
ansatz = UCCSD(problem.num_spatial_orbitals,
               problem.num_particles, mapper,
               initial_state=hf_state)

# VQE 실행
optimizer = SLSQP(maxiter=300)
vqe = VQE(Estimator(), ansatz, optimizer)
result = vqe.compute_minimum_eigenvalue(hamiltonian)
print(f"바닥 상태 에너지: {result.eigenvalue:.6f} Hartree")

주요 응용 분야

분야	활용 예시
양자 화학	분자 바닥 상태 에너지, 반응 경로
재료 과학	강상관 전자계, 위상 물질
조합 최적화	QUBO 문제의 바닥 상태 탐색
양자 기계학습	변분 양자 분류기의 손실 최소화

정리

VQE는 현재 접근 가능한 NISQ 하드웨어에서 실용적으로 실행 가능한 대표적 변분 알고리즘이다. 다만 앤사츠의 표현력 부족(barren plateau 문제), 측정 오버헤드, 잡음에 의한 에너지 추정 오류 등이 극복해야 할 과제로 남아 있다. 오류 완화 기법(error mitigation)과 더 나은 앤사츠 설계를 결합하면 화학적 정확도( $1.6 \times 1 0^{- 3}$ Hartree 이내)에 도달하는 것이 단기 목표로 제시되고 있다.

Exercises

연습문제

Q1변분 원리를 수식으로 서술하고, VQE에서 이 원리가 "바닥 상태 에너지의 상한 추정"을 보장하는 이유를 설명하라.
힌트 보기
해밀토니안의 스펙트럼 분해 $H = \sum_k E_k |E_k\rangle\langle E_k|$와 임의 상태의 전개를 이용한다.
해설 보기
임의의 상태를 $|\psi\rangle = \sum_k c_k |E_k\rangle$로 전개하면 $\langle\psi|H|\psi\rangle = \sum_k |c_k|^2 E_k \geq E_0 \sum_k |c_k|^2 = E_0$이 성립한다. 따라서 어떤 시험 상태를 선택하더라도 에너지 기댓값은 바닥 상태 에너지 $E_0$ 이상이며, VQE는 이 상한을 최소화함으로써 $E_0$에 수렴한다.
Q2파라미터 이동 규칙(parameter-shift rule)의 공식을 쓰고, 유한 차분법(finite difference)과 비교하여 양자 하드웨어에서 이 규칙이 갖는 장점을 논하라.
해설 보기
파라미터 이동 규칙은 $\partial E/\partial\theta_j = \frac{1}{2}[E(\theta_j + \pi/2) - E(\theta_j - \pi/2)]$이다. 유한 차분법은 아주 작은 $\epsilon$을 가정하지만 양자 측정에는 항상 통계적 잡음이 있어 $\epsilon$이 너무 작으면 차분이 잡음에 매몰된다. 반면 파라미터 이동 규칙은 $\pm\pi/2$라는 유한한 이동을 사용하므로 잡음의 영향을 상대적으로 덜 받으면서도 해석적으로 정확한 경사도를 제공한다.
Q3UCCSD 앤사츠와 하드웨어 효율 앤사츠(HEA)를 회로 깊이, 이론적 근거, 잡음 내성 측면에서 비교하라.
해설 보기
UCCSD는 커플드 클러스터 이론에 기반하여 전자 상관 효과를 체계적으로 포함하므로 화학적 정확도에 도달할 가능성이 높으나, 큐비트 수에 따라 회로 깊이가 지수적으로 증가하여 현재 NISQ 장치에서 잡음 누적이 심하다. HEA는 칩의 연결 구조에 맞게 최소한의 게이트만 사용하여 회로를 얕게 유지하므로 잡음에 강하지만, 표현 공간이 제한되어 정확도가 낮아질 수 있고 barren plateau 문제가 심화될 수 있다. 실용적 선택은 시스템 규모와 하드웨어 특성에 따라 결정된다.