밀도행렬

편집 역사 토론
양자역학 계산물리 물리 마지막 수정: 2026-08-27 04:14:27

1. 개요[편집]

밀도행렬
Density Matrix
다른 이름밀도연산자, 통계연산자
도입폰 노이만 · 란다우 (1927)
조건에르미트 · 대각합 1 · 양의 반정부호
순수상태 판정Tr ρ² = 1
시간 발전폰 노이만 방정식 (닫힌 계) / 린드블라드 방정식 (열린 계)
수치적 대가메모리가 상태벡터의 제곱

상태벡터로는 “이 계가 무엇인지”를 적을 수 없는 상황이 대부분이다. 그래서 벡터를 포기하고 행렬로 간다.

밀도행렬(density matrix, 밀도연산자)은 양자계의 상태를 힐베르트 공간의 벡터가 아니라 그 공간 위의 연산자로 기술하는 방식으로, 확률 pip_i 로 순수상태 ∣ψi⟩|\psi_i\rangle 에 있는 앙상블에 대해

ρ  =  ∑ipi ∣ψi⟩⟨ψi∣,pi≥0,  ∑ipi=1\rho \;=\; \sum_i p_i \,|\psi_i\rangle\langle\psi_i|, \qquad p_i \ge 0,\ \ \sum_i p_i = 1

로 정의된다. 관측량의 기댓값은 ⟨A⟩=Tr⁡(ρA)\langle A\rangle = \operatorname{Tr}(\rho A) 로 얻는다. 1927년 폰 노이만과 란다우가 각각 도입했다.

왜 굳이 이런 걸 쓰느냐면, 상태벡터로 표현할 수 없는 상태가 물리에서 표준이기 때문이다. 유한 온도의 계, 측정 장치·환경과 접촉한 계, 그리고 결정적으로 더 큰 얽힌 계의 부분계는 아무리 애써도 ∣ψ⟩|\psi\rangle 하나로 적히지 않는다. 양자 얽힘이 있는 곳에서는 “전체는 알지만 부분은 모른다”는 상황이 원리적으로 발생하고, 그 부분을 적는 유일한 언어가 밀도행렬이다.

계산 쪽 사정도 알아 두는 게 좋다. NN 차원 계의 상태벡터는 성분 NN 개지만 밀도행렬은 N2N^2 개다. 이 제곱이 양자역학 수치계산의 손익분기점을 통째로 바꿔 놓으며, 그래서 열린 계 시뮬레이션의 절반은 “밀도행렬을 안 들고 다니는 법”에 관한 것이다.

2. 벡터로는 왜 부족한가 — 중첩과 혼합은 다르다[편집]

가장 흔한 오해부터 정리하자. 12(∣0⟩+∣1⟩)\frac{1}{\sqrt2}(|0\rangle+|1\rangle) 과 “50% 확률로 ∣0⟩|0\rangle, 50% 확률로 ∣1⟩|1\rangle“은 전혀 다른 상태다. 전자는 순수상태이고 밀도행렬이

ρ중첩=12(1111),ρ혼합=12(1001)\rho_{\text{중첩}} = \frac12\begin{pmatrix}1 & 1\\ 1 & 1\end{pmatrix}, \qquad \rho_{\text{혼합}} = \frac12\begin{pmatrix}1 & 0\\ 0 & 1\end{pmatrix}

이다. σz\sigma_z 를 재면 둘 다 반반이라 구별이 안 되지만, σx\sigma_x 를 재면 앞은 항상 +1+1, 뒤는 반반이다. 차이는 전부 비대각 성분(off-diagonal, 결맞음 항)에 들어 있고, 이 성분이 사라지는 과정이 아래에서 다룰 결어긋남이다.

정의에서 곧바로 따라오는 성질 셋이 밀도행렬의 공리 노릇을 한다.

  • 에르미트. ρ†=ρ\rho^\dagger = \rho. 기댓값이 실수여야 하니 당연하다.
  • 대각합 1. Tr⁡ρ=∑ipi=1\operatorname{Tr}\rho = \sum_i p_i = 1. 확률의 총합.
  • 양의 반정부호. 임의의 ∣ϕ⟩|\phi\rangle 에 대해 ⟨ϕ∣ρ∣ϕ⟩=∑ipi∣⟨ϕ∣ψi⟩∣2≥0\langle\phi|\rho|\phi\rangle = \sum_i p_i |\langle\phi|\psi_i\rangle|^2 \ge 0. 즉 고유값이 전부 0 이상이다.

거꾸로 이 셋을 만족하는 행렬은 전부 물리적으로 허용되는 상태다. 그래서 밀도행렬 집합은 볼록집합이고, 그 극점이 정확히 순수상태다. 수치 최적화에서 “상태를 변수로 두고 최적화”가 볼록 최적화·반정부호 계획법으로 떨어지는 이유가 이것이다 — 양자 상태 단층촬영이나 얽힘 판정이 SDP로 풀리는 근거.1

한 가지 주의. 앙상블 표현 {pi,∣ψi⟩}\{p_i,|\psi_i\rangle\} 는 유일하지 않다. 위의 ρ혼합=I/2\rho_{\text{혼합}}=I/2 는 {∣0⟩,∣1⟩}\{|0\rangle,|1\rangle\} 반반으로도, {∣+⟩,∣−⟩}\{|+\rangle,|-\rangle\} 반반으로도 똑같이 나온다. 같은 ρ\rho 를 주는 앙상블들은 등척행렬 하나로 서로 연결된다(휴스턴-조자-우터스 정리, 1993). 물리적으로 의미 있는 것은 ρ\rho 이지 그것을 만든 이야기가 아니다.

3. 순수도와 폰 노이만 엔트로피[편집]

“얼마나 섞였나”를 재는 가장 싼 척도는 순수도(purity)

γ=Tr⁡ρ2=∑kλk2\gamma = \operatorname{Tr}\rho^2 = \sum_k \lambda_k^2

다. λk\lambda_k 는 ρ\rho 의 고유값. 로그가 없어서 계산이 싸고, γ=1\gamma=1 이면 순수상태, γ=1/N\gamma=1/N 이면 최대혼합상태 ρ=I/N\rho=I/N 이다. 1−γ1-\gamma 를 선형 엔트로피라 부른다.

정보이론적으로 제대로 된 척도는 폰 노이만 엔트로피

S(ρ)=−Tr⁡(ρlog⁡ρ)=−∑kλklog⁡λkS(\rho) = -\operatorname{Tr}(\rho\log\rho) = -\sum_k \lambda_k \log\lambda_k

이고, 고전 섀넌 엔트로피를 고유값 분포에 적용한 것과 같다. S=0  ⟺  S=0 \iff 순수상태, 최댓값 log⁡N\log N 은 최대혼합에서 나온다. 이 양이 부분계에 적용되면 그게 얽힘 엔트로피이고, 계산과학에서 왜 중요한지는 그 문서에 몰아 두었다.

곁다리로, 고정된 평균 에너지 아래 SS 를 최대화하면 깁스 상태 ρ=e−βH/Z\rho = e^{-\beta H}/Z 가 나온다. 정준 앙상블이 밀도행렬 언어에서는 최대엔트로피 원리의 결론으로 떨어진다는 뜻이다.

4. 블로흐 구 — 큐비트의 지도[편집]

2준위계에서는 밀도행렬을 완전히 그림으로 그릴 수 있다. 에르미트·대각합 1 조건을 쓰면 2×22\times2 밀도행렬은 언제나

ρ=12(I+r⋅σ),r=(⟨σx⟩,⟨σy⟩,⟨σz⟩)\rho = \frac12\left(I + \mathbf{r}\cdot\boldsymbol{\sigma}\right), \qquad \mathbf{r}=(\langle\sigma_x\rangle,\langle\sigma_y\rangle,\langle\sigma_z\rangle)

꼴이고, 양의 반정부호 조건이 정확히 ∣r∣≤1|\mathbf{r}|\le 1 이 된다. 즉 큐비트의 상태 공간은 반지름 1인 공(블로흐 구)이고, 순수상태는 껍질, 혼합상태는 내부, 중심이 최대혼합이다. 순수도가 γ=(1+∣r∣2)/2\gamma=(1+|\mathbf{r}|^2)/2 라 반지름이 그대로 순수도의 눈금이 된다.

이 구조는 양자역학 전용이 아니다. 편광의 결맞음 행렬과 스토크스 파라미터가 수학적으로 같은 물건이라, 편광도 PP 가 ∣r∣|\mathbf{r}| 에 대응한다. 편광 광학을 아는 사람은 큐비트 상태 기술을 이미 아는 셈.

다만 이 아름다움은 N=2N=2 에서만 나온다. N=3N=3 만 가도 상태 공간은 8차원 공간 안의 공이 아니고, 표면의 일부만 순수상태이며 모양이 훨씬 복잡하다. “블로흐 구 직관”을 큐트릿에 그대로 옮기다가 틀리는 사고가 흔하다.

5. 부분대각합과 축소밀도행렬[편집]

밀도행렬이 없으면 못 쓰는 연산이 부분대각합(partial trace)이다. 계가 A⊗BA\otimes B 로 나뉠 때

ρA=Tr⁡B ρ  =  ∑j(IA⊗⟨j∣B)ρ(IA⊗∣j⟩B)\rho_A = \operatorname{Tr}_B\,\rho \;=\;\sum_j \left(I_A\otimes\langle j|_B\right)\rho\left(I_A\otimes|j\rangle_B\right)

를 축소밀도행렬이라 부른다. 정의를 정당화하는 것은 딱 한 문장이다 — AA 에만 작용하는 임의의 관측량 MM 에 대해 Tr⁡(ρ (M⊗I))=Tr⁡(ρAM)\operatorname{Tr}(\rho\,(M\otimes I)) = \operatorname{Tr}(\rho_A M) 이 성립하고, 이 성질을 만족하는 연산은 부분대각합뿐이다. **“B를 안 볼 것이라면 A에 대해 알아야 할 전부”**가 ρA\rho_A 다.

여기서 핵심 사건이 벌어진다. 전체가 순수상태 ∣ψ⟩|\psi\rangle 여도, 그것이 얽혀 있으면 ρA\rho_A 는 혼합상태가 된다. 벨 상태 (∣00⟩+∣11⟩)/2(|00\rangle+|11\rangle)/\sqrt2 의 한쪽을 지우면 ρA=I/2\rho_A=I/2, 즉 완전한 무지다. 전체 상태는 100% 알고 있는데 부분은 최대로 모른다 — 고전 확률론에는 대응물이 없는 상황이고, 이것이 밀도행렬이 선택이 아니라 필수인 이유다.

부수적으로 나오는 것들:

  • Tr⁡ρA2\operatorname{Tr}\rho_A^2 는 얽힘의 지표가 된다. DMRG·텐서 네트워크에서 절단 기준으로 쓰는 것이 바로 이 ρA\rho_A 의 고유값이고, 그 고유값은 특이값 분해로 얻은 슈미트 계수의 제곱과 같다. “밀도행렬 대각화”와 “저랭크 근사”가 같은 연산이라는 사실이 DMRG의 전부다.
  • 반대로 임의의 혼합상태 ρA\rho_A 는 보조계를 붙여 순수상태로 만들 수 있다(순수화, purification). 유한 온도 DMRG가 열 상태를 다루는 표준 수법이다.
  • 전자 상관 문서에 나오는 축소 밀도행렬(1-RDM, 2-RDM)도 같은 연산의 페르미온 판본이다.

6. 시간 발전 — 폰 노이만 방정식과 리우빌 초연산자[편집]

닫힌 계에서는 슈뢰딩거 방정식을 ρ=∑ipi∣ψi⟩⟨ψi∣\rho=\sum_i p_i|\psi_i\rangle\langle\psi_i| 에 대입하면 끝난다.

iℏ ∂ρ∂t=[H,ρ]i\hbar\,\frac{\partial\rho}{\partial t} = [H,\rho]

이것이 폰 노이만 방정식(리우빌-폰 노이만 방정식)이다. 하이젠베르크 그림의 연산자 방정식과 부호가 반대라는 점만 조심하면 된다 — ρ\rho 는 상태이지 관측량이 아니다. 고전 리우빌 정리의 위상공간 밀도 방정식에서 푸아송 괄호를 교환자로 바꾼 꼴이라는 대응이 이름에 남아 있다. 해는 ρ(t)=Uρ(0)U†\rho(t)=U\rho(0)U^\dagger, U=e−iHt/ℏU=e^{-iHt/\hbar} 로 행렬 지수함수 계산이다.

수치적으로는 이 방정식을 선형 벡터 방정식으로 평탄화하는 것이 표준이다. ρ\rho 를 열 방향으로 쌓아 벡터 vec(ρ)\mathrm{vec}(\rho) 로 만들면 크로네커 곱 항등식 vec(AXB)=(BT ⁣⊗A) vec(X)\mathrm{vec}(AXB)=(B^{\mathsf T}\!\otimes A)\,\mathrm{vec}(X) 에 의해

ddt vec(ρ)=L vec(ρ),L=−iℏ(I⊗H−HT ⁣⊗I)\frac{d}{dt}\,\mathrm{vec}(\rho) = \mathcal{L}\,\mathrm{vec}(\rho), \qquad \mathcal{L} = -\frac{i}{\hbar}\left(I\otimes H - H^{\mathsf T}\!\otimes I\right)

가 된다. L\mathcal{L} 을 리우빌 초연산자(Liouvillian superoperator)라 부른다. 초연산자라는 이름은 “연산자를 연산자로 보내는 사상”이라는 뜻이고, 크기는 N2×N2N^2\times N^2 다. 정상상태를 구하는 문제가 L\mathcal{L} 의 영공간을 찾는 고유값 문제로 바뀌고, 완화율은 L\mathcal{L} 고유값의 실수부(리우빌 갭)로 읽힌다. 희소행렬 저장 + 란초스 알고리즘 계열 반복법이 실무의 기본 조합.

7. 결어긋남 — 비대각 성분이 죽는다[편집]

계가 환경과 얽히면 어떤 일이 벌어지는지 최소 모형으로 보자. (α∣0⟩+β∣1⟩)⊗∣E0⟩(\alpha|0\rangle+\beta|1\rangle)\otimes|E_0\rangle 이 상호작용으로 α∣0⟩∣E0⟩+β∣1⟩∣E1⟩\alpha|0\rangle|E_0\rangle+\beta|1\rangle|E_1\rangle 이 되면, 환경을 대각합으로 지운 계의 상태는

ρS=(∣α∣2αβ∗⟨E1∣E0⟩α∗β⟨E0∣E1⟩∣β∣2)\rho_S = \begin{pmatrix} |\alpha|^2 & \alpha\beta^{*}\langle E_1|E_0\rangle \\ \alpha^{*}\beta\langle E_0|E_1\rangle & |\beta|^2 \end{pmatrix}

이다. 환경 상태들이 직교해 갈수록 ⟨E0∣E1⟩→0\langle E_0|E_1\rangle \to 0 이고, 비대각 성분만 사라지고 대각 성분은 그대로 남는다. 이것이 결어긋남(결어긋남, decoherence)이다. 중첩이 앙상블 혼합처럼 보이게 되는 과정이고, 어느 기저에서 대각화되는지는 상호작용 해밀토니안이 정한다(주렉의 포인터 기저·초선택).

실무적으로 중요한 점 몇 가지.

  • 결어긋남 시간은 에너지 완화 시간보다 보통 훨씬 짧다. 그래서 T1T_1(완화)과 T2T_2(결맞음)를 따로 재고, 일반적으로 T2≤2T1T_2 \le 2T_1 이다.
  • 거시적 자유도일수록 환경 상태가 빨리 직교해서 결어긋남이 압도적으로 빠르다. “왜 고양이 중첩을 못 보는가”에 대한 정량적 답이 여기서 나온다.
  • 다만 결어긋남은 측정 문제를 풀어 주지는 않는다. 부분대각합으로 얻은 혼합상태는 국소적으로만 고전적 무지와 구별 불가일 뿐, 전체는 여전히 순수한 얽힘 상태다. 이 구별(비고유 혼합 vs 고유 혼합)을 뭉개면 논쟁이 시작된다.2

8. 린드블라드 방정식 — 열린 계의 표준형[편집]

환경을 명시적으로 들고 다니는 대신, 계의 밀도행렬만으로 닫힌 시간 발전 방정식을 쓰고 싶다. 마르코프 근사(환경 기억 시간이 계의 동역학보다 훨씬 짧다) 아래 그 방정식의 일반형이 확정되어 있다는 것이 이 분야의 놀라운 결과다. 고리니-코사코프스키-수다르샨과 린드블라드가 1976년 독립적으로 얻었다.

dρdt=−iℏ[H,ρ]+∑kγk(LkρLk†−12{Lk†Lk, ρ})\frac{d\rho}{dt} = -\frac{i}{\hbar}[H,\rho] + \sum_k \gamma_k\left(L_k\rho L_k^\dagger - \tfrac12\{L_k^\dagger L_k,\ \rho\}\right)

LkL_k 는 도약연산자(jump operator, 예: 소멸연산자 aa 는 광자 손실, σz\sigma_z 는 순수 위상 결어긋남), γk≥0\gamma_k\ge0 은 비율이다. 이 형태를 벗어나면 완전양의성(complete positivity)이 깨져서 “확률이 음수인 상태”가 튀어나온다 — 보조계를 붙였을 때만 드러나는 종류의 병이라, 대충 만든 감쇠 항이 조용히 비물리적 결과를 내는 사고가 실제로 자주 난다. 자세한 유도와 변형은 린드블라드 방정식 참고.

9. 수치적 대가와 양자 점프[편집]

여기가 이 문서의 계산과학 결론이다. 큐비트 nn 개 계에서 N=2nN=2^n 이므로,

대상복소수 개수n=20n=20판정
상태벡터 ∣ψ⟩\lvert\psi\rangle2n2^{n}약 10610^{6}노트북
밀도행렬 ρ\rho4n4^{n}약 101210^{12}16 TB, 불가
리우빌 초연산자 L\mathcal{L} (조밀)16n16^{n}논외저장 자체가 불가

L\mathcal{L} 은 보통 희소해서 행렬-벡터 곱만 구현하면 명시적으로 만들 필요는 없지만, 상태를 N2N^2 개로 들고 다니는 것 자체가 지수의 밑을 2에서 4로 올린다. 큐비트 20개짜리 열린 계 동역학이 40개짜리 닫힌 계와 같은 비용이라는 뜻이고, 이게 열린 양자계 시뮬레이션의 벽이다.

우회로가 몬테카를로 파동함수(몬테카를로 파동함수, 양자 점프/양자 궤적 방법)다. 달리바르-카스탱-묄머와 둠-촐러-리치가 1992년에, 카마이클이 양자 궤적이라는 이름으로 비슷한 시기에 제안했다. 골자는 밀도행렬 대신 확률적으로 발전하는 상태벡터를 여러 벌 굴리는 것이다.

  1. 비에르미트 유효 해밀토니안 Heff=H−iℏ2∑kγkLk†LkH_{\rm eff} = H - \frac{i\hbar}{2}\sum_k \gamma_k L_k^\dagger L_k 로 ∣ψ⟩|\psi\rangle 를 발전시킨다. 노름이 서서히 줄어든다.
  2. 줄어든 노름 1−∥ψ∥21-\|\psi\|^2 를 도약 확률로 해석해, 난수로 도약 여부를 뽑는다.
  3. 도약이 일어나면 ∣ψ⟩→Lk∣ψ⟩/∥Lk∣ψ⟩∥|\psi\rangle \to L_k|\psi\rangle/\|L_k|\psi\rangle\| 로 상태를 갈아치우고, 아니면 정규화만 하고 계속 간다.
  4. 궤적 MM 개의 ∣ψ⟩⟨ψ∣|\psi\rangle\langle\psi| 를 평균하면 린드블라드 해 ρ(t)\rho(t) 로 수렴한다.

메모리는 N2N^2 에서 NN 으로 떨어지고, 궤적끼리 완전히 독립이라 병렬화가 자명하다. 대가는 몬테카를로 방법의 숙명인 1/M1/\sqrt{M} 통계 오차다. 그래서 손익분기는 대략 “필요한 궤적 수 MM 이 힐베르트 차원 NN 보다 작은가”로 결정된다 — 큰 계일수록 유리해진다. QuTiP 같은 라이브러리가 mesolve(밀도행렬 직접)와 mcsolve(궤적)를 나란히 제공하는 이유가 정확히 이 트레이드오프다.3

더 큰 계로 가려면 결국 밀도행렬 자체를 압축해야 한다. ρ\rho 를 N2N^2 차원 벡터로 본 뒤 그것을 MPS로 표현하는 행렬곱 밀도연산자(MPDO) 계열이 표준 답이고, 여기서도 절단 기준은 다시 슈미트 계수다. 시간이 지나면 결합차원이 터지는 문제도 그대로 물려받는다.

10. 관련 문서[편집]

11. Footnotes[편집]

  1. 애초에 “왜 상태가 하필 이런 행렬이어야 하는가”에도 답이 있다. 글리슨 정리(1957)는 3차원 이상의 힐베르트 공간에서 사영측정에 확률을 부여하는 모든 방법이 Tr⁡(ρP)\operatorname{Tr}(\rho P) 꼴뿐임을 보였다. 밀도행렬은 편의를 위한 선택이 아니라 강제된 결론이라는 뜻. 참고로 정리가 2차원을 제외하는 것은 큐비트에서만 반례가 있기 때문인데, 하필 블로흐 구가 예쁜 그 차원이다. ↩

  2. 이 지점에서 “결어긋남이 측정 문제를 해결했다”는 주장과 “아니다, 문제를 옮겼을 뿐이다”는 주장이 30년째 싸우고 있다. 실무 엔지니어 입장에서 중요한 것은 하나다 — 어느 해석을 택하든 T2T_2 는 똑같이 짧고, 큐비트는 똑같이 죽는다. 해석 논쟁은 커피 마시면서 하고 코드는 린드블라드로 짜면 된다. ↩

  3. 궤적 방법의 결과를 보고할 때 궤적 수를 안 적는 것은 몬테카를로 결과에 오차막대를 안 그리는 것과 같은 죄다. 곡선이 매끄러워 보이는 것은 궤적을 많이 쓴 게 아니라 시간 방향으로 평활화가 걸린 탓일 수도 있다. 리뷰어가 제일 먼저 요구하는 그림이 MM 을 4배 올렸을 때 곡선이 얼마나 움직이는지다. ↩