게이지 이론

계산물리 물리 전자기해석 마지막 수정: 2026-08-03 04:38:52

1. 개요[편집]

게이지 이론 Gauge Theory
핵심 요구	물리량이 국소 대칭 변환에 불변
대가	게이지 장(접속) 등장 + 자유도 과잉
계산상 증상	특이 강성행렬, 유일하지 않은 해, 표본 공간 과잉
대표 계산법	격자 게이지 이론 + HMC, 에지 요소 + 트리-코트리
최대 난제	유한 밀도의 부호 문제

물리학자에게 게이지는 자연의 대칭이고, 해석 엔지니어에게 게이지는 행렬이 특이해지는 이유다. 같은 것이다.

게이지 이론(gauge theory)은 이론의 물리적 내용이 시공간의 점마다 독립적으로 걸 수 있는 국소 변환(게이지 변환)에 대해 불변이도록 요구하고, 그 불변성을 유지하기 위해 도입되는 보상장(게이지 장, 기하학적으로는 접속)으로 상호작용을 기술하는 이론 틀이다. 전자기학의 $U(1)$ , 약전자기의 $SU(2)\times U(1)$ , 강한 상호작용의 $SU(3)$ 이 전부 이 틀 위에 서 있다.

심위키는 시뮬레이션 위키이므로 이 문서는 계산의 관점에서 쓴다. 게이지 대칭은 계산하는 사람에게 두 가지 얼굴로 나타난다. 하나는 자유도 과잉 — 물리적으로 같은 상태가 무한히 많은 서로 다른 장 배위로 표현되므로, 선형계는 특이해지고 적분은 발산한다. 다른 하나는 불변량만이 관측량 — 무엇을 계산해서 보고할지가 이론적으로 제약된다. 격자 QCD의 몬테카를로 표본추출부터 유한요소 전자기의 curl-curl 행렬까지, 실무 증상은 놀랄 만큼 닮아 있다.

2. 국소 대칭과 공변미분[편집]

전역 위상 변환 $\psi \to e^{i\alpha}\psi$ 는 맥스웰 방정식 없이도 아무 문제가 없다. 그런데 $\alpha$ 를 점마다 다르게( $\alpha(x)$ ) 허용하는 순간 미분항이 깨진다 — $\partial_\mu\psi$ 가 $\psi$ 와 같은 방식으로 변환하지 않기 때문이다. 이걸 고치려면 미분을 공변미분으로 바꿔야 한다.

D_\mu = \partial_\mu - i g A_\mu, \qquad A_\mu \to A_\mu + \frac{1}{g}\partial_\mu \alpha(x)

즉 게이지 장 $A_\mu$ 는 “국소 대칭을 요구했더니 어쩔 수 없이 나온 것”이다. 전자기학의 벡터퍼텐셜이 정확히 이것이고, $A_\mu \to A_\mu + \partial_\mu\Lambda$ 를 해도 $\mathbf{E}, \mathbf{B}$ 가 바뀌지 않는다는 익숙한 사실이 $U(1)$ 게이지 불변성이다. 장세기는 공변미분의 교환자로 정의된다.

F_{\mu\nu} = \frac{i}{g}[D_\mu, D_\nu] = \partial_\mu A_\nu - \partial_\nu A_\mu - i g[A_\mu, A_\nu]

$A_\mu$ 가 리 군의 리 대수 값을 가지는 비가환( $SU(2)$ , $SU(3)$ ) 경우에는 마지막 교환자 항이 살아남아, 게이지 장이 스스로와 상호작용한다. 광자는 서로를 안 보지만 글루온은 서로를 본다는 차이가 여기서 나온다.

뇌터 정리와의 관계는 미묘하다. 전역 대칭은 보존 전하를 주지만, 국소 대칭은 새 보존량을 주는 대신 운동방정식 사이에 항등식(구속조건)을 만든다. 뇌터의 두 번째 정리가 그 내용이고, 이것이 곧 “방정식이 서로 독립이 아니다 = 행렬이 특이하다”의 정체다.

3. 게이지 고정과 그 함정[편집]

자유도 과잉을 없애려면 조건을 하나 걸어 대표 배위를 고른다. 이것이 게이지 고정이다.

쿨롱 게이지 $\nabla\cdot\mathbf{A} = 0$ : 정자기·저주파 해석에서 흔하다. 유일성이 좋지만 공변적이지 않다.
로렌츠 게이지 $\partial_\mu A^\mu = 0$ : 상대론적 계산의 국룰. 파동방정식이 깔끔하게 분리된다.¹
축 게이지, 시간 게이지 등: 특정 성분을 0으로 두는 실용 선택.

문제는 비가환 이론에서 게이지 고정이 전역적으로 유일하지 않다는 것이다. 쿨롱 게이지 조건을 만족하는 서로 게이지 등가인 배위가 여럿 존재하며(그리보프 복사, Gribov 1978), 경로적분을 그 위에서 정의하려는 시도가 지금도 완전히 정리되지 않았다. 계산하는 입장에서 이건 “제약을 걸었는데도 해가 유일하지 않다”는 최악의 상황이다.

4. 격자 게이지 이론 — 게이지를 고정하지 않고 계산하기[편집]

윌슨(K. Wilson, 1974)의 착상은 이 난관을 우회한다. 게이지 장을 시공간 점의 값이 아니라 격자 링크 위의 군 원소로 놓는 것이다.

U_\mu(x) = \exp\!\big(i a g A_\mu(x)\big) \in SU(3)

여기서 $a$ 는 격자 간격. $U_\mu(x)$ 는 점 $x$ 에서 $x+a\hat\mu$ 로 옮길 때의 평행이동 연산자이고, 게이지 변환은 $U_\mu(x) \to \Omega(x) U_\mu(x)\Omega^\dagger(x+a\hat\mu)$ 로 양 끝만 건드린다. 그래서 닫힌 경로를 따라 링크를 곱한 뒤 트레이스를 취하면 게이지 불변이 된다. 가장 작은 닫힌 경로가 정사각형 하나짜리 플라케트고, 윌슨 작용은

S_W = \beta \sum_{P} \left(1 - \frac{1}{N}\,\mathrm{Re}\,\mathrm{tr}\,U_P\right), \qquad \beta = \frac{2N}{g^2}

이다. $a \to 0$ 에서 전개하면 연속 양-밀스 작용 $\frac{1}{2g^2}\int \mathrm{tr}\,F_{\mu\nu}F^{\mu\nu}$ 가 $O(a^2)$ 오차로 복원된다.

여기서 결정적인 계산적 이점이 나온다. $SU(3)$ 은 콤팩트 군이라 링크 변수의 적분 영역(하르 측도)이 유한하다. 따라서 게이지 부피가 무한대로 발산하지 않고, 게이지 고정 없이 그대로 몬테카를로 방법을 돌릴 수 있다. 게이지 불변이 아닌 양의 기댓값은 저절로 0이 되므로(엘리추어 정리) 애초에 잴 필요도 없다. 관측량은 윌슨 루프 같은 불변량으로 제한되고, 큰 루프의 기댓값이 넓이에 지수적으로 감소하는 면적 법칙이 쿼크 가둠의 격자 증거가 된다.

5. HMC와 부호 문제[편집]

격자 QCD에서 쿼크(페르미온)는 그라스만 변수라 직접 표본추출할 수 없어 적분해 없애면 행렬식 $\det M[U]$ 가 남는다. 이걸 다시 보조 보손장으로 되살린 것이 의사페르미온이다.

\det(M^\dagger M) \propto \int \mathcal{D}\phi^\dagger \mathcal{D}\phi \; e^{-\phi^\dagger (M^\dagger M)^{-1}\phi}

$(M^\dagger M)^{-1}\phi$ 는 매번 크리로프 부분공간법으로 푸는 대형 희소계이고, 이것이 격자 QCD 계산 비용의 대부분이다. 그리고 이렇게 비국소적으로 얽힌 작용에서 국소 갱신(메트로폴리스)은 절망적으로 비효율적이라, 해밀토니안 몬테카를로(HMC)가 등장한다 — 사실 HMC는 통계학이 아니라 바로 이 문제를 풀려고 1987년 격자 QCD 진영에서 발명된 알고리즘이다.² 링크 변수의 켤레운동량을 리 대수 $\mathfrak{su}(3)$ 에 두고 분자동역학 궤적을 적분하는데, 수락비가 정확하려면 적분기가 가역이고 부피를 보존해야 하므로 심플렉틱 적분기와 지수사상 기반 기하 수치적분이 필수다. 여기서 마르코프 연쇄 몬테카를로의 일반 이론이 그대로 적용된다.

그런데 유한 바리온 밀도(화학퍼텐셜 $\mu \neq 0$ )를 켜면 $\det M$ 이 복소수가 된다. 가중치가 확률이 아니게 되니 몬테카를로의 전제가 무너진다. 이것이 **부호 문제**다. 재가중(reweighting)으로 우회하려 해도 유효 표본수가 부피와 온도역수에 대해 지수적으로 줄어 곧 벽에 부딪히고, 일반적인 부호 문제는 NP-난해임이 알려져 있다.³ 중성자별 내부 상태방정식 같은 물리가 여기 발이 묶여 있고, 양자 몬테카를로의 페르미온 부호 문제도 같은 뿌리다.

6. 전자기 유한요소해석에서의 게이지 — 실무 문제다[편집]

게이지가 추상적 얘기라고 생각하면 곤란하다. 자기벡터퍼텐셜 정식화( $\mathbf{A}$ -formulation)로 저주파 자장 해석을 하면 지배 방정식이

\nabla \times (\nu \nabla \times \mathbf{A}) = \mathbf{J}

인데, $\nabla\times\nabla\phi = 0$ 이므로 모든 스칼라 그래디언트가 연산자의 영공간에 들어간다. 유한요소법으로 이산화하면 강성행렬이 그대로 특이해지고, 영공간 차원은 대략 절점 수만큼 된다. 조건수는 볼 것도 없고, 반복 솔버는 수렴할 기미가 없다.

대응은 세 갈래다.

트리-코트리 게이지. 메시의 에지 그래프에서 신장 트리를 잡고, 트리 에지의 자유도를 0으로 고정한다. 남은 코트리 자유도만으로 유일해가 결정되며, 이산 게이지 고정의 정석이다. 다만 트리 선택이 조건수와 해의 국소 품질에 영향을 줘서, “어떤 트리를 고르느냐”가 은근히 노하우다.
게이지를 안 고정하고 그냥 푼다. 우변 소스가 이산적으로 발산 없음(정합)이면 우변이 연산자의 치역에 들어가므로, CG 계열이 영공간 성분을 건드리지 않고 특이계를 푼다. 실무에서 의외로 흔한 선택이다. 대신 소스가 조금만 부정합해도 해가 표류한다.⁴
에지 요소(휘트니 1형식). 절점 요소 대신 에지 요소를 쓰면 이산 그래디언트가 이산 커널과 정확히 일치해, 이산 드람 복합체가 완전해진다. 그 결과 스퓨리어스 모드가 사라지고 접선 연속성이 자연스럽게 강제된다. 게이지 자유도가 없어지는 게 아니라 제자리에 정확히 놓이는 것이 요점이다. 자세한 내용은 유한요소 전자기 참고.

7. 관련 문서[편집]

이 게이지의 이름은 로런츠 변환의 헨드릭 로런츠(Hendrik Lorentz)가 아니라 덴마크 물리학자 루드비 로렌츠(Ludvig Lorenz)에서 왔다. 스펠링이 t 하나 차이라 20세기 내내 잘못 표기됐고, 지금도 논문에서 절반쯤은 틀린 채로 나온다. ↩
Duane, Kennedy, Pendleton, Roweth (1987), “Hybrid Monte Carlo”. 통계학·베이지안 쪽에서 HMC가 표준 도구가 된 건 그로부터 20년쯤 뒤다. 즉 오늘날 확률 프로그래밍 라이브러리가 기본으로 돌리는 샘플러의 고향은 쿼크다. ↩
Troyer & Wiese (2005). “NP-난해”라는 말은 특정 계에서 영리한 변수 변환으로 부호 문제가 사라지는 사례까지 부정하지는 않는다. 실제로 몇몇 모형에서는 부호 문제가 해결됐다. 다만 일반적인 해법을 찾는 것은 P=NP를 증명하는 것과 같은 급의 일이라는 뜻이다. ↩
해석 엔지니어가 “게이지 안 잡았더니 솔버가 10만 반복에서 안 죽고 버티더라”고 말할 때, 그건 운이 좋아서가 아니라 우변이 치역에 있었기 때문이다. 운을 실력으로 오해하면 다음 모델에서 반드시 대가를 치른다. ↩