페르마 원리

물리 계산물리 수치해석 마지막 수정: 2026-08-30 04:41:08

1. 개요[편집]

페르마 원리 Fermat's Principle
제안	피에르 드 페르마 (1662)
진술	$\delta\!\int_A^B n(\mathbf{r})\,ds = 0$ — 광로가 정류
정확한 이름	최단시간이 아니라 정류시간의 원리
오일러-라그랑주 식	$\frac{d}{ds}\!\left(n\frac{d\mathbf{r}}{ds}\right)=\nabla n$ — 광선 방정식
장 방정식 판본	아이코날 방정식 $\lvert\nabla S\rvert = n$
상위 원리	최소작용 원리의 광학판(모페르튀이 작용과 형태 동일)

빛은 목적지를 미리 알고 있는가. 아니다. 그런데 계산은 그렇게 하면 맞는다.

페르마 원리(Fermat’s principle)는 두 점을 잇는 실제 광선 경로가, 이웃한 모든 가상 경로에 대해 광로(optical path length) $\int n\,ds$ 를 정류(stationary)로 만드는 경로라는 변분 원리다. 굴절률 $n$ 이 곧 $c_0/v$ 이므로 광로를 $c_0$ 로 나누면 전파 시간이 되고, 그래서 흔히 “빛은 시간이 정류가 되는 길로 간다”고 말한다.

\delta \int_A^B n(\mathbf{r})\,ds = 0

1662년 페르마가 이 원리 하나로 반사 법칙과 굴절 법칙을 동시에 유도했을 때 데카르트파는 이것을 물리가 아니라 신학이라고 불렀다. “빛이 어떻게 미리 알고 최단 경로를 고르느냐”는 반발이었고, 사실 그 반발은 원리의 국소성을 오해한 데서 온 것이다. 뒤에서 보겠지만 이 원리의 오일러-라그랑주 방정식은 완벽하게 국소적인 미분방정식이며, 빛은 아무것도 미리 알 필요가 없다.

이 문서가 다루는 것은 셋이다. 정류가 왜 최소가 아닌가, 이 원리에서 무엇이 유도되는가, 그리고 가장 중요하게 정류라는 성질이 수치계산에서 정확히 어떤 이득을 주는가. 파동방정식의 고주파 극한에서 이 원리가 나오는 과정과 격자에서 도달시간을 푸는 방법은 아이코날 방정식이 다루므로 반복하지 않는다.

2. 최소가 아니라 정류다[편집]

교과서 제목이 “최소시간의 원리”인 것은 반쯤 틀렸다. 정확한 진술은 정류이며, 실제 광선이 광로의 최댓값인 배치가 존재한다.

가장 깔끔한 예가 타원 거울이다. 광원 $A$ 와 관측점 $B$ 를 타원의 두 초점에 두면, 타원의 정의상 거울 위 어느 점에서 반사하든 광로가 정확히 같다. 이 경우 광로는 완전히 축퇴되어 있다(모든 경로가 정류). 이제 거울을 그 타원보다 덜 굽게 만들면 반사점이 타원 밖으로 나가 실제 경로가 이웃보다 길어지고 — 실제 광선의 광로가 극소가 된다. 반대로 타원보다 더 굽게(오목하게) 만들면 반사점이 타원 안쪽으로 들어가 실제 경로가 이웃보다 짧아져 극대가 된다.

즉 최소/최대/축퇴 셋이 모두 실제로 발생한다. 이 지점이 역학의 작용과 다르다. 역학의 표준 라그랑지언에서는 운동에너지가 $\dot q$ 의 양정치 이차형식이라 2차 변분이 항상 위로 열려 있고, 그래서 작용은 최소이거나 안장점일 뿐 결코 최대가 될 수 없다(최소작용 원리 참고). 페르마 원리에서 최대가 나오는 것은 경로가 거울면이라는 구속 위로 제한되어 있기 때문이며, 구속 없는 자유 변분과는 다른 문제다.

축퇴가 물리적으로 무엇을 뜻하는지도 중요하다. 광로가 이웃 경로들과 같아지는 곳이 초점이다. 초점에서는 무수히 많은 경로가 같은 위상으로 도착해 진폭이 발산하고, 기하광학은 그곳에서 무너진다(caustic). 렌즈 설계자가 “완벽한 결상”을 말할 때 그 조건이 바로 물점에서 상점까지의 광로가 모든 광선에 대해 같을 것이며, 실제 렌즈의 수차는 그 광로가 얼마나 어긋났는지(OPD, 파면 오차)로 측정된다.¹

3. 무엇이 유도되는가[편집]

반사 법칙. 평면 거울 위 반사점의 위치를 미지수로 두고 총 경로 길이를 미분하면 즉시 입사각 = 반사각이 나온다. 알렉산드리아의 헤론이 이미 “빛은 최단 경로로 반사한다”로 설명했던 그것이다.

스넬 법칙. 굴절률 $n_1$ 과 $n_2$ 인 두 매질의 경계에서 통과점 $x$ 를 미지수로 두면 광로는

L(x) = n_1\sqrt{x^2+a^2} + n_2\sqrt{(d-x)^2+b^2}

이고, $dL/dx = 0$ 이 곧

n_1\sin\theta_1 = n_2\sin\theta_2

이다. 미분 한 번으로 굴절 법칙이 떨어진다는 사실이 1662년 당시의 충격이었다. 참고로 페르마는 빛이 밀한 매질에서 느려진다고 가정했고, 데카르트는 반대로 빨라진다고 가정했다. 관측은 200년 뒤 푸코가 결판냈고 페르마가 맞았다.

광선 방정식. 변분 대상 범함수를 호길이 매개변수로 쓰고 오일러-라그랑주를 적용하면

\frac{d}{ds}\!\left(n(\mathbf{r})\,\frac{d\mathbf{r}}{ds}\right) = \nabla n(\mathbf{r})

가 나온다. 읽는 법은 직관적이다. 광선은 굴절률이 커지는 쪽으로 휜다. 균일 매질( $\nabla n=0$ )에서는 우변이 0이라 직선이 되고, 스넬 법칙은 이 방정식을 $n$ 이 계단으로 뛰는 면에서 적분한 것에 지나지 않는다. 이 방정식이 완전히 국소적이라는 점이 앞의 “빛이 미리 아느냐” 시비에 대한 답이다 — 광선은 매 순간 자기 위치의 $\nabla n$ 만 느끼며, 전역 정류성은 그 국소 법칙의 결과다.

4. 굴절률 구배 매질[편집]

$\nabla n \ne 0$ 인 매질에서 광선이 휘는 것이 페르마 원리의 가장 눈에 보이는 응용이다.

신기루. 뜨거운 아스팔트 위 공기는 팽창해 밀도가 낮고 따라서 $n$ 이 작다. 아래로 내려가던 광선은 $\nabla n$ 이 위를 향하므로 위로 휘어 되돌아오고, 관측자는 하늘이 지면에 고인 것처럼 본다. 사막의 물웅덩이는 하늘의 상이다.
대기 굴절. 지구 대기의 $n$ 은 고도에 따라 감소하므로 별빛이 아래로 휘고, 그 결과 우리가 보는 태양은 실제보다 약 0.5° 위에 있다. 일몰 순간 관측되는 태양은 이미 기하학적으로는 지평선 아래라는 유명한 사실이 여기서 나온다. 측량·천체 관측에서 이 보정을 빼먹으면 각도가 통째로 틀어진다.
GRIN 광학. 굴절률을 반지름 방향으로 설계한 렌즈(gradient-index)는 곡면 없이 평평한 면만으로 빛을 모을 수 있다. 루네베르크 렌즈 $n(r)=\sqrt{2-(r/R)^2}$ 가 고전적 예이고, 계단형 굴절률 광섬유가 코어에 빛을 가두는 것도 같은 원리다.
변환광학. 좌표 사상을 굴절률 분포로 번역해 광선 경로를 설계하는 분야 전체가, 위 광선 방정식이 페르마 원리의 오일러-라그랑주 식이라는 사실 위에 서 있다.

5. 아이코날과 파동광학[편집]

페르마 원리는 공짜로 주어진 공리가 아니라 파동방정식의 단파장 극한이다. 헬름홀츠 방정식에 $u = A e^{ik_0 S}$ 를 넣고 $k_0\to\infty$ 극한을 취하면

\lvert \nabla S \rvert = n(\mathbf{r})

가 떨어진다. 이것이 아이코날 방정식이고, $S$ 는 광로를 재는 위상함수다. 여기서 두 관점의 관계가 정확히 드러난다.

$S$ 의 등고선이 파면이고, 그 법선을 따라가는 곡선이 광선이다. 광선은 아이코날 방정식의 특성곡선이다.
즉 페르마 원리(라그랑주 관점, 경로 하나를 추적)와 아이코날 방정식(오일러 관점, 도달시간 장을 격자에서 계산)은 같은 물리의 두 서술이다.
단파장 극한이 깨지는 곳 — 파장 규모의 구조물, 그림자 경계, 초점 — 에서는 페르마 원리도 같이 깨진다. 회절과 간섭은 이 원리가 원리적으로 못 보는 현상이다. 그 자리를 메우는 것이 물리광학과 파동 기반 해법이다.

파인만이 경로적분에서 준 설명이 이 원리의 물리적 정체를 가장 잘 요약한다. 모든 경로가 실제로 기여하지만, 광로가 정류인 경로 근처에서만 위상이 서로 보강되고 나머지는 상쇄된다. 빛은 경로를 고르지 않는다. 고르지 않은 결과가 정류 경로처럼 보일 뿐이다.

6. 계산 — 정류성이 주는 실질적 이득[편집]

여기가 이 문서의 본론이다. 페르마 원리는 광학 교양이 아니라 계산 도구다.

(가) 초기값 문제로서의 광선 추적. 광선 방정식은 2계 ODE이므로 출발점과 출발 방향을 주면 룽게-쿠타법 같은 표준 적분기로 그냥 밀 수 있다. 렌즈 설계 소프트웨어가 하는 일도 본질적으로 이것인데, 다만 균일 매질 사이의 면에서는 ODE를 적분하는 대신 면마다 스넬 법칙을 적용하는 것이 훨씬 싸다. 그래픽스의 레이 트레이싱이 광선-물체 교차와 반사·굴절 방향만 계산하는 것도 같은 축약이다.

(나) 두 점 문제 — 슈팅과 벤딩. 그런데 실제로 필요한 것은 대개 ” $A$ 에서 $B$ 로 가는 광선”이라는 경계값 문제다. 두 접근이 갈린다.

슈팅(shooting). 출발 방향을 미지수로 두고 IVP를 반복해 도착점을 맞춘다. 구현이 쉽지만 굴절률 대비가 큰 매질에서는 도착점이 출발 방향에 극도로 민감해지고, 그림자 영역에는 아예 도달하는 광선이 없다.
벤딩(bending). 경로 전체를 이산화해 놓고 광로를 직접 최소화한다. 페르마 원리를 문자 그대로 수치 최적화 문제로 푸는 방식이며, 지진학의 유사벤딩(pseudo-bending) 기법이 대표적이다. 초기 추측이 조악해도 견디고, BVP를 BVP로 푼다는 점에서 구조적으로 건강하다. 대신 국소 정류점에 갇힐 수 있다 — 정류점이 여럿이면 실제로 여러 도달 경로(multipathing)가 존재한다는 물리적 사실의 반영이기도 하다.

(다) 이산 페르마 = 최단경로 문제. 매질을 격자로 자르고 인접 노드 사이의 이동 비용을 $n\cdot\Delta\ell$ 로 주면, 최소 광로 경로를 찾는 일은 그대로 가중 그래프의 최단경로 문제가 된다. 다익스트라 알고리즘을 돌리면 답이 나온다. 실제로 지진파 초동주시 계산에 이 방식(network ray tracing)이 쓰이며, 격자 방향에만 이웃을 두면 경로가 계단처럼 꺾이는 이방성 오차가 생겨 이웃 스텐실을 넓히는 것이 관행이다. 이 오차를 근본적으로 없앤 연속판이 고속 행진법이고, 두 알고리즘의 혈연관계는 해당 문서에 정리되어 있다.

(라) 섭동이 공짜다 — 토모그래피의 핵심. 이것이 정류성이 주는 가장 값진 선물이다. 매질의 슬로우니스가 $s\to s+\delta s$ 로 조금 바뀌면 광선 경로도 $\Gamma\to\Gamma+\delta\Gamma$ 로 바뀌고, 도달시간 변화는 원칙적으로 두 항의 합이다. 그런데 경로가 정류점이므로 경로 변화에 의한 1차 항이 정확히 0이다. 따라서

\delta T = \int_{\Gamma} \delta s\,d\ell + O(\delta^2)

즉 원래 경로를 그대로 두고 슬로우니스 변화만 선적분하면 된다. 지진파 토모그래피와 의료 영상의 굴절 보정이 거대한 선형 역문제로 환원되는 근거가 정확히 이 한 줄이며, 매 반복마다 광선을 다시 추적하지 않아도 되게 해 준다.² 페르마 원리를 “빛이 게으르다”는 낭만으로만 기억하면 놓치는, 이 원리의 가장 실용적인 얼굴이다.

7. 역학과의 관계 — 한 문단[편집]

축약작용(모페르튀이 작용) $W=\int p\,dq$ 를 에너지가 고정된 껍질 위에서 정류로 만드는 것이 야코비 형태의 최소작용 원리이고, 단일 입자에서 $p=\sqrt{2m(E-V)}$ 이므로

\delta\int \sqrt{2m(E-V)}\,ds = 0 \qquad\longleftrightarrow\qquad \delta\int n\,ds = 0

두 식이 글자 그대로 같은 모양이다. $\sqrt{2m(E-V)}$ 가 역학의 “굴절률” 노릇을 한다. 이 형식적 일치가 드 브로이와 슈뢰딩거에게 결정적 힌트를 줬다 — 광선이 파동의 단파장 극한이라면 입자 궤적도 무언가의 단파장 극한이어야 하고, 그 무언가가 슈뢰딩거 방정식이었다. 계보와 세 작용의 구분은 최소작용 원리가, 이산 작용을 정류화해 적분기를 만드는 이야기는 해밀턴 원리가 다룬다. 또 $\int n\,ds$ 를 $n$ 을 계량으로 갖는 공간의 길이로 읽으면 광선은 그 공간의 측지선이 되고, 이 관점이 변환광학과 중력렌즈의 언어다.

8. 한계[편집]

이방성 매질. 결정 광학이나 지진파의 이방성 매질에서는 속도가 방향에 의존해 위상속도와 군속도가 갈라진다. 페르마 원리 자체는 군속도(에너지 전파 속도)로 재정식화하면 살아남지만, 소박한 $\int n\,ds$ 형태는 그대로 못 쓴다.
움직이는 매질·상대론. 매질이 흐르거나 시공간이 휘면 원리를 시공간의 널 측지선으로 다시 써야 한다. 이때 “시간이 정류”라는 문장의 시간이 무엇인지가 미묘해진다.
흡수 매질. $n$ 이 복소수가 되면 “광로”의 정류라는 표현이 그대로는 의미를 잃는다.
파장 규모의 구조. 회절 격자·서브파장 구조·미세 산란체 앞에서는 광선 그림 자체가 성립하지 않는다.³

9. 관련 문서[편집]

그래서 렌즈 설계 최적화의 목적함수는 대개 “광선이 상면에 얼마나 모이는가”(스폿 크기)가 아니라 파면 오차의 분산이다. 페르마 원리가 완벽 결상을 광로의 등가성으로 번역해 준 덕분에, 기하학적 문제가 스칼라 하나를 줄이는 최적화 문제가 된다. 그리고 그 스칼라를 줄이려고 렌즈를 10장씩 쓰는 게 현대 광학 설계의 현생이다. ↩
이 성질에는 이름도 붙어 있다 — Fermat’s principle in tomography, 혹은 “1차 섭동에서 경로는 고정해도 된다”는 규칙. 정류점에서 함수값의 1차 변화가 0이라는 미적분 1학년 사실이, 수백만 개 미지수짜리 역문제의 야코비안을 통째로 단순화한다. 정류성이 이론적 우아함이 아니라 계산 예산의 문제라는 것이 이 대목에서 분명해진다. ↩
그래서 광학 설계 현장의 판단 기준은 대체로 “파장 대비 구조 크기” 하나다. 구조가 파장보다 훨씬 크면 광선을 쏘고, 비슷해지면 파동을 풀고, 그 사이 애매한 구간에서는 둘을 이어 붙인 하이브리드 기법을 쓴다. 전자기해석 쪽에서 물리광학과 전파(full-wave) 해법을 나눠 쓰는 기준과 정확히 같은 감각이며, 그 경계에서 정답을 아는 사람은 아무도 없고 다들 수렴 시험으로 때운다. ↩