프레넬 방정식

전자기학 전자기해석 계산물리 마지막 수정: 2026-08-05 04:18:51

1. 개요[편집]

프레넬 방정식 Fresnel equations
제안	오귀스탱 장 프레넬 (1823)
분야	전자기학 × 광학 × 수치해석
기반	맥스웰 방정식의 경계조건
출력	편광별 반사·투과 진폭 계수
대표 응용	전달행렬법, 물리 기반 렌더링, FDTD 검증

프레넬 방정식(Fresnel equations)은 굴절률이 다른 두 매질의 평평한 경계에 평면파가 비스듬히 입사할 때, 반사파와 투과파의 진폭 비를 입사각과 편광 상태의 함수로 주는 식이다. 스넬 법칙이 “빛이 어디로 가는가”를 답한다면, 프레넬 방정식은 “그중 얼마가 가는가”를 답한다. 둘은 같은 경계조건에서 동시에 튀어나오는 쌍둥이라서, 스넬만 알고 프레넬을 모르면 광학 계산은 딱 절반만 한 셈이다.

이름은 1823년에 이 관계를 정리한 오귀스탱 장 프레넬에게서 왔다. 재밌는 건 프레넬이 맥스웰 방정식보다 40년 앞서 이 식을 얻었다는 점이다. 그는 빛을 탄성 에테르의 횡파로 보고 유도했는데, 나중에 맥스웰 전자기학으로 다시 유도해 보니 결과가 그대로였다.¹

2. 경계조건에서의 유도[편집]

유도는 놀랄 만큼 단순하다. 등방·비자성 매질 경계에서 맥스웰 방정식이 요구하는 것은 두 가지뿐이다 — 전기장 $\mathbf{E}$ 의 접선 성분과 자기장 $\mathbf{H}$ 의 접선 성분이 경계면을 가로질러 연속이어야 한다는 것.

경계면 위 모든 점에서 위상이 맞아떨어져야 한다는 조건에서 곧바로 $n_1\sin\theta_i = n_2\sin\theta_t$ , 즉 스넬 법칙이 나온다. 남은 진폭 관계를 편광 방향에 따라 두 경우로 나눠 풀면 그게 프레넬 방정식이다. 여기서 편광은 입사면(입사광선과 법선이 만드는 평면) 기준으로 갈린다.

s편광(TE): $\mathbf{E}$ 가 입사면에 수직. 독일어 senkrecht(수직)에서 온 s다.
p편광(TM): $\mathbf{E}$ 가 입사면에 평행(parallel).

3. s편광과 p편광[편집]

s편광의 반사·투과 진폭 계수는 다음과 같다.

r_s = \frac{n_1\cos\theta_i - n_2\cos\theta_t}{n_1\cos\theta_i + n_2\cos\theta_t}, \qquad t_s = \frac{2 n_1\cos\theta_i}{n_1\cos\theta_i + n_2\cos\theta_t}

p편광은 $n$ 과 $\cos\theta$ 의 짝이 엇갈린다.

r_p = \frac{n_2\cos\theta_i - n_1\cos\theta_t}{n_2\cos\theta_i + n_1\cos\theta_t}, \qquad t_p = \frac{2 n_1\cos\theta_i}{n_2\cos\theta_i + n_1\cos\theta_t}

에너지 단위로 넘어가면 반사율은 그냥 제곱이다. $R = |r|^2$ . 하지만 투과율은 그렇지 않다. 투과파는 빔 단면적과 매질의 임피던스가 둘 다 바뀌므로 기하 인자가 붙는다.

T = \frac{n_2\cos\theta_t}{n_1\cos\theta_i}\,|t|^2, \qquad R + T = 1

이 $n_2\cos\theta_t / (n_1\cos\theta_i)$ 인자를 빼먹고 $T=|t|^2$ 로 쓰는 것이 입문자 실수 1위다. 그렇게 하면 에너지가 안 맞고, 그 뒤로 디버깅 3일이 증발한다. 안전한 습관은 $R$ 만 계산하고 $T = 1-R$ 로 두는 것(흡수 없는 매질 한정).

수직 입사( $\theta_i=0$ )에서는 두 편광이 구별되지 않고 유명한 식으로 붕괴한다.

R_0 = \left(\frac{n_1-n_2}{n_1+n_2}\right)^2

공기-유리( $n=1.5$ )면 $R_0 \approx 0.04$ . 안경 한 면당 4%가 튕겨 나간다는 그 숫자다. 이는 임피던스 정합의 $\Gamma=(Z_2-Z_1)/(Z_2+Z_1)$ 와 완전히 같은 구조이며, 실제로 비자성 매질에서 $Z \propto 1/n$ 이라 두 식은 같은 식이다.

4. 브루스터 각과 전반사[편집]

프레넬 방정식의 진짜 재미는 특이점에 있다.

브루스터 각에서 $r_p$ 의 분자가 정확히 0이 된다.

\theta_B = \arctan\!\left(\frac{n_2}{n_1}\right)

이 각에서 p편광은 반사되지 않는다. 반사광은 100% s편광이 된다. 물리적 그림도 직관적이다. 이때 $\theta_i + \theta_t = 90^\circ$ 라서 투과 매질 안 쌍극자의 진동 방향이 반사 방향과 정확히 일치하는데, 쌍극자는 자기 진동축 방향으로는 복사하지 않는다. 낚시용 편광 선글라스가 수면 반사를 지우는 원리, 레이저 공동의 브루스터 창이 손실 없이 편광을 고르는 원리가 전부 이 한 줄이다.²

전반사는 $n_1 > n_2$ 일 때 임계각 $\theta_c = \arcsin(n_2/n_1)$ 너머에서 일어난다. 스넬 법칙이 $\sin\theta_t > 1$ 을 요구하므로 실수 각도가 없다. 그런데 프레넬 식을 버릴 필요는 없다. $\cos\theta_t = \sqrt{1-\sin^2\theta_t}$ 를 순허수로 해석해 그대로 대입하면, $r$ 은 크기 1에 위상만 가진 복소수가 되고( $|r|=1$ ), 투과파는 경계에 붙어 지수적으로 감쇠하는 소멸파(evanescent wave)가 된다. 침투 깊이는 대략 파장 수준. 광섬유의 도파, 전반사 형광 현미경(TIRF), 프리즘 결합기가 전부 이 허수각의 산물이다. 반사에 붙는 편광별 위상차는 구스-헨헨 이동과 프레넬 마름모의 근거가 된다.

단일 계면 n₁→n₂ 에서 s/p 편광의 프레넬 계수를 입사각의 함수로 그대로 푼다. 전반사 영역은 식을 버리지 않고 cosθ_t = +i·κ 로 복소수 산술해 크기 1 · 위상만 남는 반사계수를 얻는다. 위 패널은 R_s(θ)·R_p(θ) 실선과 |arg r|/π 점선이고, 브루스터 각은 R_p 가 0 으로 내려꽂히는 자리이자 arg r_p 가 뒤집히는 자리라 두 곡선이 같은 x 에서 만난다. 아래는 진짜 광선 그림으로, 입사·반사·굴절선의 굵기와 밝기를 1 · R · T 에 비례시켰다 — 스윕이 θ_B 를 지날 때 p편광 반사선이 사라졌다 반대 부호로 되살아나고, θ_c 를 넘으면 굴절선이 소멸파 감쇠 띠로 바뀐다. θ_i + θ_t = 90° 에서 반사선과 굴절선이 직교하는 것도 표시하는데, 그게 브루스터의 쌍극자 논증 자체다. 검증값: n₁=1, n₂=1.5 수직입사 R = 0.04 가 해석식과 부동소수점까지 같고, θ_B = 56.309932474° 에서 R_p 가 부동소수점에서 정확히 0 이며(굴절률 격자 전체의 최댓값도 1.3e−31), n₁=1.5·n₂=1 의 임계각 41.810315° 위 481표본에서 max|R−1| = 4.4e−16, 굴절이 있는 61709 표본 전체에서 max|R+T−1| = 6.7e−16 이다. 수직 입사가 아닌 전 각도를 다루되 매질은 비흡수 실수 굴절률로 한정한 단일 계면 계산이다.

5. 흡수 매질과 복소 굴절률[편집]

금속처럼 흡수가 있는 매질에서는 굴절률을 복소수로 확장한다.

\tilde{n} = n + i\kappa

식의 형태는 하나도 바뀌지 않는다. 그냥 $n_2 \to \tilde{n}_2$ 로 넣고 복소 산술로 계산하면 된다. 다만 이때 “굴절각”은 더 이상 기하학적 각도가 아니고, 등위상면과 등진폭면이 어긋난 비균질파를 기술하는 복소 파라미터다. 이 구조 덕분에 프레넬 식은 유전체·금속·플라즈마를 가리지 않고 그대로 쓰인다. 타원편광계측법(ellipsometry)은 아예 이걸 거꾸로 돌려, 측정한 $r_p/r_s$ 비에서 박막의 $n$ , $\kappa$ , 두께를 역산한다.

6. 수치해석에서의 위치[편집]

프레넬 방정식은 해석해가 존재하는 몇 안 되는 전자기 문제라서, 수치 코드의 채점표 역할을 한다.

FDTD 검증: 평면 경계에 각도 입사를 쏘고 반사 계수를 재서 프레넬 값과 비교하는 것이 FDTD 구현의 기본 회귀 시험이다. 계단 격자(staircasing) 오차와 수치 분산이 얼마나 결과를 갉아먹는지 여기서 바로 드러난다.
완전정합층 튜닝: PML의 목표는 “모든 각도에서 반사 0”이며, 성능 지표는 프레넬 반사율 대비 몇 dB 낮은가로 표현된다. 스침 입사에서 PML이 무너지는 것도 이 기준으로 잰다.
전달행렬법: 다층 박막은 층마다 프레넬 계수와 위상 두께 $\delta = 2\pi n d\cos\theta/\lambda$ 로 $2\times2$ 행렬을 만들어 곱하기만 하면 끝난다. 반사방지 코팅과 유전체 다층 거울(DBR), 나아가 광결정의 1차원 밴드갭이 여기서 나온다.
물리 기반 렌더링: 실시간 렌더러가 픽셀마다 아크코사인과 복소 제곱근을 돌릴 리 없다. 그래서 슐릭 근사를 쓴다.

F(\theta) \approx F_0 + (1-F_0)(1-\cos\theta)^5

$F_0$ 는 수직 입사 반사율이고, 유전체는 무편광 평균으로 두 편광을 뭉개버린다. 스침각에서 모든 표면이 거울처럼 밝아지는 그 “프레넬 림”이 게임 화면의 물웅덩이를 그럴듯하게 만드는 정체다. 금속은 $F_0$ 를 RGB 3채널 벡터로 두어 복소 굴절률의 색 의존성을 흉내 낸다.³

7. 여담[편집]

부호 규약이 교재마다 다르다. p편광 반사계수의 부호는 국룰이 없어서, 수직 입사에서 $r_p = -r_s$ 가 되는 규약과 $r_p = +r_s$ 가 되는 규약이 공존한다. 두 논문의 식을 섞어 쓰면 위상이 $\pi$ 만큼 틀어진 채 그럴듯한 그림이 나오므로 특히 위험하다.⁴
프레넬 방정식은 평평한 경계와 무한 평면파를 가정한다. 표면 거칠기가 파장 수준이면 산란 이론으로 갈아타야 하고, 곡률 반경이 파장 수준이면 미 산란의 영역이다.
유리창에 비친 얼굴이 각도를 눕힐수록 선명해지는 것, 젖은 아스팔트가 저 멀리서만 번들거리는 것 모두 $R(\theta)$ 가 $90^\circ$ 에서 1로 치솟기 때문이다. 물리를 알고 나면 퇴근길 풍경이 전부 그래프로 보인다.

8. 관련 문서[편집]

프레넬은 빛을 “에테르라는 탄성 고체 속의 횡파”로 보고 유도했다. 전제는 통째로 틀렸는데 결론은 정확히 맞은, 물리학사에서 손꼽히는 사례다. 틀린 모형으로 맞는 식을 뽑는 것도 실력이라면 실력이다. ↩
브루스터 각은 유전체에서만 완벽하게 0이 된다. 금속처럼 $\kappa$ 가 큰 매질에서는 $r_p$ 가 최소값을 찍긴 해도 정확히 0으로 내려가지 않아, 이를 유사 브루스터 각(pseudo-Brewster angle)이라 부른다. 편광 선글라스로 금속 차체 반사를 못 지우는 이유. ↩
슐릭 근사(1994)의 오차는 유전체 기준 대체로 1% 남짓이다. 정확한 프레넬 식과 나란히 그려 보면 거의 겹치는데, 프레임당 수백만 번 호출되는 함수에서 아크코사인 하나를 5제곱 하나로 바꾼 대가치고는 남는 장사다. ↩
규약 차이의 뿌리는 반사파 좌표계에서 p편광의 양의 방향을 어디로 잡느냐다. 검증법은 간단하다 — 자기 코드에 $\theta_i \to 0$ 을 넣어 $r_p$ 와 $r_s$ 의 부호 관계를 확인하고, 인용하는 논문도 같은 극한을 계산해 맞춰보면 된다. 이걸 안 하고 밤새우는 대학원생이 매년 새로 태어난다. ↩