몬테카를로 파동함수

편집 역사 토론
양자역학 계산물리 수치해석 마지막 수정: 2026-08-29 04:51:14

1. 개요[편집]

몬테카를로 파동함수
Monte Carlo Wave Function (MCWF)
다른 이름양자 도약법, 양자 궤적법, 언레블링
제안달리바르-카스탱-묄머 · 둠-촐러-리치 (1992) · 카마이클 (1993)
푸는 대상린드블라드 방정식의 해 ρ(t)
메모리N (밀도행렬은 N²)
오차통계오차, 궤적 수의 제곱근에 반비례
병렬성궤적끼리 완전 독립

밀도행렬을 들고 다니기 싫으면, 주사위를 들고 다니면 된다.

몬테카를로 파동함수(MCWF, 양자 도약/양자 궤적 방법)는 개방 양자계의 밀도행렬을 직접 적분하는 대신, 확률적으로 발전하는 상태벡터 여러 벌의 앙상블 평균으로 린드블라드 방정식의 해를 얻는 수치 기법이다. 1992년 달리바르-카스탱-묄머와 둠-촐러-리치가 각각, 그리고 카마이클이 “양자 궤적”이라는 이름으로 거의 같은 시기에 제시했다.

동기는 순전히 계산 자원이다. 차원 NN 의 계에서 밀도행렬은 복소수 N2N^2 개, 리우빌 초연산자는 N4N^4 개다. 큐비트 nn 개면 N=2nN=2^n 이니 개방 계 20큐비트가 닫힌 계 40큐비트와 같은 값을 부른다(개방 양자계). MCWF는 이 제곱을 통째로 걷어내고 NN 짜리 상태벡터 여러 벌로 대체한다. 대가는 몬테카를로 방법의 숙명인 통계 오차다.

이 문서는 알고리즘의 세부·왜 이것이 옳은가의 증명 스케치·오차와 비용 회계·구현 함정을 다룬다. 린드블라드 방정식 자체의 유도와 형태는 그쪽 문서에, 밀도행렬 기초는 밀도행렬에 있다.

2. 알고리즘[편집]

린드블라드 우변을 세 덩어리로 다시 묶는 것이 출발점이다. 도약연산자 LkL_k, 비율 γk\gamma_k 에 대해 비에르미트 유효 해밀토니안

Heff  =  H  −  iℏ2∑kγk Lk†LkH_{\rm eff} \;=\; H \;-\; \frac{i\hbar}{2}\sum_k \gamma_k\,L_k^\dagger L_k

를 정의하면 린드블라드 방정식이

ρ˙=−iℏ(Heffρ−ρHeff†)  +  ∑kγk LkρLk†\dot\rho = -\frac{i}{\hbar}\left(H_{\rm eff}\rho-\rho H_{\rm eff}^\dagger\right) \;+\;\sum_k \gamma_k\,L_k\rho L_k^\dagger

로 쪼개진다. 앞 항은 “아무 일도 안 일어나면서 확률이 새는” 결정론적 진화이고, 뒷항(∑kLkρLk†\sum_k L_k\rho L_k^\dagger, 되먹임 항)이 “무언가 일어났을 때”다. MCWF는 이 분해를 그대로 확률 과정으로 읽는다.

고정 스텝 판본 (개념 설명용):

  1. ∣ψ(t)⟩|\psi(t)\rangle 를 HeffH_{\rm eff} 로 δt\delta t 만큼 발전시킨다. HeffH_{\rm eff} 가 비에르미트라 노름이 줄어든다.
  2. 줄어든 양 δp=1−∥∣ψ(t+δt)⟩∥2=δt∑kγk⟨Lk†Lk⟩\delta p = 1-\big\||\psi(t+\delta t)\rangle\big\|^2 = \delta t\sum_k\gamma_k\langle L_k^\dagger L_k\rangle 가 도약 확률이다.
  3. 균등난수 rr 를 뽑아 r>δpr>\delta p 면 정규화만 하고 진행. r≤δpr\le\delta p 면 채널 kk 를 γk⟨Lk†Lk⟩\gamma_k\langle L_k^\dagger L_k\rangle 에 비례하는 확률로 고르고 ∣ψ⟩→Lk∣ψ⟩/∥Lk∣ψ⟩∥|\psi\rangle\to L_k|\psi\rangle/\|L_k|\psi\rangle\| 로 갈아치운다.
  4. 궤적 MM 벌을 독립적으로 굴려 ρ(t)≈1M∑m∣ψ(m)(t)⟩⟨ψ(m)(t)∣\rho(t)\approx\frac1M\sum_{m}|\psi^{(m)}(t)\rangle\langle\psi^{(m)}(t)|.

대기시간 판본 (실제 구현):

고정 스텝은 도약 시각을 스텝 경계로 반올림하므로 δt\delta t 에 1차로 오차가 남는다. 실무 구현은 대신 균등난수 r∈(0,1)r\in(0,1) 을 먼저 뽑고, 정규화하지 않은 상태의 노름제곱이 rr 로 떨어지는 시각

∥ ψ~(tjump) ∥2=r\big\|\,\tilde\psi(t_{\rm jump})\,\big\|^2 = r

을 근찾기로 정확히 잡아 그 순간에 도약시킨다. 그러면 도약 사이 구간은 그냥 매끄러운 상미분방정식이라 고차 적응 적분기(룽게-쿠타법, 지수 적분기)를 그대로 쓸 수 있고, 시간 이산화 오차가 적분기 차수까지 떨어진다. QuTiP의 mcsolve 를 비롯한 표준 라이브러리가 전부 이 방식이다.

3. 왜 이게 맞는가[편집]

한 스텝의 앙상블 평균을 그냥 계산해 보면 증명이 끝난다. 도약이 안 일어날 확률이 1−δp1-\delta p 이고 그때 상태는 정규화된 ∣ψno⟩|\psi_{\rm no}\rangle, 채널 kk 로 도약할 확률이 δpk=δt γk⟨Lk†Lk⟩\delta p_k=\delta t\,\gamma_k\langle L_k^\dagger L_k\rangle 이고 그때 상태는 정규화된 Lk∣ψ⟩L_k|\psi\rangle 다. 정규화 인자가 확률 가중치와 정확히 상쇄되므로

ρ(t+δt)‾=(1−δp)ρ~no1−δp+∑kδpkLkρLk†⟨Lk†Lk⟩=ρ+δt Lρ+O(δt2)\overline{\rho(t+\delta t)} =(1-\delta p)\frac{\tilde\rho_{\rm no}}{1-\delta p} +\sum_k \delta p_k\frac{L_k\rho L_k^\dagger}{\langle L_k^\dagger L_k\rangle} =\rho+\delta t\,\mathcal{L}\rho+O(\delta t^2)

가 된다. 정규화를 나누고 확률을 곱하는 두 연산이 서로를 지운다는 것이 이 알고리즘의 유일한 마법이고, 그래서 편향 없이 린드블라드 우변이 재현된다.

여기서 중요한 결론 하나. 개별 궤적은 물리적 사건이 아니다. 같은 ρ(t)\rho(t) 를 주는 도약연산자 집합이 무수히 많다는 게이지 자유도(린드블라드 방정식 참고) 때문에, 도약을 어떻게 볼지는 환경을 어떤 기저로 측정하느냐가 정한다. 이것을 언레블링(unravelling)이라 부른다.

언레블링궤적의 성격대응하는 측정
양자 도약 (MCWF)조각적 결정론 + 불연속 점프직접 광자 계수
양자 상태 확산연속 확률미분방정식호모다인·헤테로다인 검출

두 방법은 궤적이 전혀 다르게 생겼는데도 평균은 같은 ρ(t)\rho(t) 를 준다. 확산 판본은 확률미분방정식과 이토 적분의 언어로 적히며 잡음원이 위너 과정이다. 평균만이 물리다.

4. 광자 계수와의 대응[편집]

그럼에도 도약 판본이 특별한 지위를 갖는 이유가 있다. 형광을 내뿜는 원자를 완벽한 검출기로 감시하면, 검출기가 광자를 하나 셀 때마다 원자 상태가 실제로 σ−\sigma_- 를 맞은 것으로 갱신된다. 즉 MCWF의 한 궤적은 “광자를 이 시각들에 셌다”는 특정 측정 기록에 조건부인 상태이고, 도약 시각의 통계는 검출기 클릭 시각의 통계와 그대로 대응한다.

그래서 궤적 방법으로만 나오는 관측량이 있다. 평균 밀도행렬에는 없고 개별 궤적 통계에만 있는 것들 —

  • 광자 계수 분포와 만델 QQ 인자(초포아송/부포아송 판정),
  • 대기시간 분포와 반뭉침(antibunching): 검출 직후 다음 광자까지의 시간 분포,
  • 양자 도약의 직접 관측. 1986년 단일 이온 실험 세 건이 형광이 갑자기 꺼졌다 켜지는 “암흑 구간”을 잡아냈고, 이는 이온이 준안정 준위로 숨었다가 돌아오는 도약의 실시간 기록이다. 앙상블 평균에서는 매끄러운 지수 감쇠로 뭉개져 보이지 않는다.1

궤적은 계산 장치이면서 동시에 특정 실험 배치의 모형이라는 이 이중성이 이 방법이 광학 쪽에서 유독 사랑받는 이유다.

5. 비용 회계[편집]

밀도행렬 직접 적분과의 비교를 정직하게 적으면 이렇다.

항목리우빌 직접 적분MCWF
메모리N2N^2 (초연산자 명시하면 N4N^4)N×N\times (동시 궤적 수)
한 스텝 비용밀도행렬 곱상태벡터 곱 ×M\times M
오차결정론적, 적분기 차수통계, M−1/2M^{-1/2}
병렬화행렬 연산 수준궤적 단위로 자명
정상상태·리우빌 스펙트럼직접 얻음긴 궤적의 시간평균으로 우회
재현성결정론적난수 시드에 의존

핵심은 MM 이 NN 과 함께 커지지 않는다는 점이다. 관측량 ⟨A⟩\langle A\rangle 의 통계 오차는 궤적별 값의 표준편차를 M\sqrt M 으로 나눈 것이고, 그 표준편차는 대개 계 크기가 아니라 관측량의 성질이 정한다. 그래서 손익분기는 대략 “필요한 MM 이 NN 보다 작은가”이고, 계가 커질수록 궤적법이 유리해진다. 반대로 작은 계에서 소수점 넷째 자리를 원하면 M≳104M\gtrsim10^4 이 필요해 그냥 N2N^2 을 푸는 게 싸다. 실무 감각으로 손익분기는 N∼103N\sim10^3 언저리지만 관측량에 따라 크게 흔들린다.

병렬성은 정말로 자명하다. 궤적끼리 통신이 전혀 없으므로 노드 수에 선형으로 확장되고(병렬 컴퓨팅), 궤적을 배치로 묶어 행렬-행렬 곱으로 바꾸면 GPU 컴퓨팅에서도 잘 돈다. 이 방법이 살아남은 진짜 이유는 메모리보다 이 병렬성이라는 평가도 있다.

한 가지 좋은 소식. 평균하는 대상이 ∣ψ⟩⟨ψ∣|\psi\rangle\langle\psi| 라는 양의 반정부호 연산자이므로, 양자 몬테카를로를 괴롭히는 부호 문제 같은 지수적 상쇄가 원리적으로 없다. MCWF의 문제는 상쇄가 아니라 분산이고, 분산은 궤적을 더 굴리면 줄어든다. 지수적 재앙과 제곱근 수렴은 전혀 다른 급의 고통이다.

6. 오차막대와 분산 감소[편집]

몬테카를로 결과에 오차를 안 붙이는 것은 죄다. 시각 tt 에서 관측량 AA 의 추정은

Aˉ=1M∑m=1MA(m),SE=1M1M−1∑m(A(m)−Aˉ)2\bar A=\frac1M\sum_{m=1}^{M}A^{(m)}, \qquad \mathrm{SE}=\frac{1}{\sqrt{M}}\sqrt{\frac{1}{M-1}\sum_m\big(A^{(m)}-\bar A\big)^2}

이고, 궤적이 독립이므로 중심극한정리가 그대로 적용되어 정규 근사 신뢰구간을 붙일 수 있다. 다만 같은 궤적의 서로 다른 시각은 강하게 상관되어 있다 — 그래서 시간 곡선이 매끄러워 보이는 것은 오차가 작다는 증거가 전혀 아니다. 곡선이 부드러운데 위아래로 통째로 밀려 있는 그림이 궤적 부족의 전형적 증상이다.

분산을 줄이는 손쉬운 수법들:

  • 공통 난수. 파라미터를 바꿔 가며 비교할 때 같은 시드를 쓰면 차이의 분산이 크게 준다. 곡선 두 개의 차이를 보는 실험에서 특히 효과가 크다.
  • 중요도 표본추출. 도약 확률을 인위적으로 부풀려 뽑고 궤적에 가중치를 붙인다. 희귀한 도약 사건(예: 광자 여러 개 동시 검출)의 통계를 볼 때 필수.
  • 조건부 평균 재사용. 도약 직후 상태들이 겹치는 경우가 많으면 궤적 병합·가지치기로 유효 표본 수를 늘리는 계열이 있다.
  • 관측량 재작성. ⟨L†L⟩\langle L^\dagger L\rangle 처럼 도약과 직결된 양은 도약 횟수를 세는 것보다 결정론적 구간에서 적분하는 편이 분산이 작다. 같은 기댓값을 여러 방식으로 추정할 수 있으면 분산이 작은 쪽을 고르는 것이 분산 보정의 기본 정신이다.

7. 구현 함정[편집]

  • δp\delta p 가 크면 조용히 틀린다. 한 스텝에 도약이 두 번 일어날 확률을 무시하는 근사이므로 δp≲10−2\delta p\lesssim10^{-2} 를 유지해야 한다. 강한 소산이나 큰 광자수에서 ⟨L†L⟩\langle L^\dagger L\rangle 이 폭증하면 위반되고, 증상은 발산이 아니라 살짝 틀린 감쇠율이라 잡기 어렵다.
  • HeffH_{\rm eff} 에 유니터리 적분기를 쓴다. 비에르미트이므로 노름을 보존하는 적분기(케일리, 분할 연산자의 유니터리 판본)를 그대로 쓰면 도약 확률이 0이 되어 아무 일도 안 일어난다. 노름이 줄어드는 것이 버그가 아니라 알고리즘의 핵심이다.
  • 난수 스트림이 겹친다. 궤적별로 시드를 seed+m 처럼 주면 메르센 트위스터 같은 생성기에서 스트림이 겹칠 수 있고, 그러면 궤적이 독립이 아니어서 오차막대가 거짓말을 한다. 스트림 분할을 지원하는 생성기나 계수기 기반 생성기를 쓰는 것이 안전하다(난수 생성기).
  • 정상상태를 궤적으로 구한다. 원리적으로는 긴 궤적의 시간평균으로 되지만, 완화가 느리면 필요한 시간이 폭발하고 에르고딕성 가정도 별도로 필요하다. 정상상태나 리우빌 스펙트럼이 목표라면 L\mathcal{L} 의 영공간을 직접 푸는 쪽이 옳다.
  • 2시간 상관함수를 순진하게 평균한다. ⟨A(t+τ)B(t)⟩\langle A(t+\tau)B(t)\rangle 는 궤적 위에서 그냥 곱해 평균하면 안 된다. 양자 회귀 정리에 따라 Bρ(t)B\rho(t) 를 새 초기조건으로 삼아 다시 진화시켜야 하며, 궤적 구현에서는 도약 직후 상태를 분기시키는 별도 절차가 붙는다. 스펙트럼을 뽑을 때 여기서 틀리는 사고가 흔하다.2
  • 궤적 수를 안 적는다. 논문에서 MM 을 안 밝히는 것은 오차막대를 안 그리는 것과 같다. 리뷰어가 제일 먼저 요구하는 그림이 MM 을 네 배로 올렸을 때 곡선이 얼마나 움직이는지다.3

8. 언제 쓰고 언제 쓰지 않나[편집]

  • 쓴다 — 차원이 크고(공동 + 다수 모드, 여러 큐비트), 필요한 정확도가 퍼센트 수준이며, 노드가 많을 때. 광자 계수·대기시간처럼 궤적 통계 자체가 관측량일 때는 대안이 없다.
  • 안 쓴다 — 차원이 작아 N2N^2 이 그냥 풀릴 때, 정상상태나 리우빌 갭이 목표일 때, 결과의 결정론적 재현성이 중요할 때.
  • 둘 다 쓴다 — 작은 계에서 두 방법을 맞춰 보는 것이 표준 검증 절차다. 궤적 평균이 밀도행렬 해로 M−1/2M^{-1/2} 수렴하는지 확인되면 구현 버그의 절반은 걸러진다. V&V의 기본이다.

9. 관련 문서[편집]

10. Footnotes[편집]

  1. 1986년에 세 그룹(워싱턴 대학의 데멜트 그룹, 함부르크의 토셰크 그룹, NIST의 와인랜드 그룹)이 각각 단일 이온에서 이 “암흑 구간”을 보고했다. 재미있는 것은 그보다 30여 년 앞서 슈뢰딩거가 “우리는 단일 입자로 실험하지 않는다. 그건 동물원에서 어룡을 키우겠다는 것만큼이나 터무니없다”고 썼다는 점이다(1952). 어룡은 결국 잡혔다. ↩

  2. 양자 회귀 정리 자체도 공짜가 아니다. 마르코프 근사에 의존하므로 비마르코프 계에서는 성립을 보장할 수 없고, 그런데도 스펙트럼 계산에는 거의 자동으로 쓰인다. 감쇠가 지수함수가 아닌 계에서 나온 형광 스펙트럼은 한 번쯤 의심해 볼 만하다. ↩

  3. 곡선이 매끄러워 보이는 이유가 궤적을 많이 써서가 아니라 시간 방향으로 평활화가 걸렸기 때문인 경우가 꽤 있다. 이 바닥의 국룰은 하나다 — 궤적 수와 오차막대가 없는 궤적 계산 그림은 예쁜 그림이지 결과가 아니다. ↩