비선형 슈뢰딩거 방정식

계산물리 수치해석 마지막 수정: 2026-08-10 04:18:44

1. 개요[편집]

비선형 슈뢰딩거 방정식 Nonlinear Schrödinger Equation (NLS)
표준형	$iu_t + \tfrac12 u_{xx} + \sigma\|u\|^2u = 0$
부호	$\sigma=+1$ 집속형(밝은 솔리톤) / $\sigma=-1$ 비집속형(어두운 솔리톤)
무대	광섬유 펄스, 보스-아인슈타인 응축, 심해파 포락선
구조	1차원에서 적분가능 — 자하로프-샤바트 역산란
수치 국룰	분할단계 푸리에법(스트랑 2차)
주의	2차원 이상 집속형은 유한시간 붕괴

비선형 슈뢰딩거 방정식(nonlinear Schrödinger equation, NLS)은 좁은 주파수 대역의 파속(wave packet) 포락선에 대해 분산과 3차 비선형성이 같은 차수로 경쟁할 때 보편적으로 나타나는 복소 편미분방정식으로, 규격화된 표준형은 다음과 같다.

i u_t + \frac{1}{2} u_{xx} + \sigma |u|^2 u = 0, \qquad \sigma = \pm 1

이름은 슈뢰딩거 방정식에서 따왔지만 물리적 지위는 전혀 다르다. 양자역학의 슈뢰딩거 방정식은 선형이고 그래서 중첩이 성립하는 반면, 여기서 $u$ 는 확률진폭이 아니라 고전 파동의 복소 포락선이고 $|u|^2u$ 항 때문에 중첩이 깨진다. 선형 양자역학 쪽 이야기는 슈뢰딩거 방정식 문서에 있고, 이 문서는 그 항 하나가 붙었을 때 벌어지는 일만 다룬다.¹

$|u|^2$ 가 국소 굴절률(혹은 국소 위상속도)을 바꾼다는 해석이 핵심이다. 밝은 곳이 더 느려지면 파속이 스스로를 가두고, 반대면 스스로를 밀어낸다. 이 자기작용이 분산에 의한 퍼짐과 정확히 맞물릴 때 솔리톤이 나온다. KdV 방정식이 “장파의 보편 정규형”이라면 NLS는 “포락선의 보편 정규형”이며, 실제로 유체·광학·플라즈마·초유체에서 유도 과정만 다르고 결론은 같은 이 식이 끝없이 튀어나온다.

2. 두 부호 — 집속형과 비집속형[편집]

$\sigma$ 의 부호가 방정식의 성격을 통째로 바꾼다.

집속형( $\sigma = +1$ , focusing): 비선형성이 파속을 조여 밝은 솔리톤(bright soliton)을 만든다. 배경은 0이고 봉우리가 서 있는 형태. 광섬유의 이상분산 영역, 인력 상호작용 BEC가 여기 해당한다.
비집속형( $\sigma = -1$ , defocusing): 비선형성이 퍼뜨리는 쪽으로 작동해 밝은 솔리톤이 존재하지 않는다. 대신 일정한 배경 위에 파인 구멍이 안정하게 전파하는 어두운 솔리톤(dark soliton)이 나온다.

두 경우 모두 1차원에서는 적분가능하지만, 산란 문제의 구조가 다르다(집속형은 자하로프-샤바트 고유값이 복소평면에 흩어지고, 비집속형은 유한밀도 경계조건을 얹은 문제가 된다). “부호 하나 차이”라고 얕보면 코드에서 정확히 그 부호 때문에 며칠을 날린다.

3. 솔리톤 해[편집]

집속형의 1-솔리톤은 다음과 같다.

u(x,t) = \eta\,\mathrm{sech}\big(\eta(x - vt)\big)\, \exp\!\left(i\left[v x - \frac{v^2 - \eta^2}{2}t\right]\right)

진폭 $\eta$ , 폭 $1/\eta$ , 속도 $v$ . KdV 방정식과의 결정적 차이가 여기 있다. KdV 솔리톤은 진폭·폭·속도가 파라미터 하나에 묶여 “클수록 빠르고 좁다”였지만, NLS 솔리톤은 진폭 $\eta$ 와 속도 $v$ 가 독립이다. 갈릴레이 변환 $u \mapsto u(x-vt,t)e^{i(vx - v^2t/2)}$ 이 방정식을 보존하기 때문이며, 그래서 같은 크기의 펄스를 아무 속도로나 실어 보낼 수 있다. 광통신에서 이 성질이 그대로 “펄스 하나 = 비트 하나”로 쓰인다.

비집속형의 어두운 솔리톤(정확히는 진폭이 0까지 파이는 black soliton)은

u(x,t) = u_0 \tanh(u_0 x)\, e^{-i u_0^2 t}

이다. 중앙에서 $u=0$ 을 지나며 위상이 $\pi$ 점프하는데, 이 위상 특이점이 사라질 수 없어서 구멍이 메워지지 않는다. 즉 어두운 솔리톤의 안정성은 진폭 균형이 아니라 위상의 토폴로지에 기대고 있다 — 이 점에서 사인-고든 방정식의 킹크와 사촌지간이다. 배경 위를 비스듬히 움직이는 회색 솔리톤(gray soliton)은 위상 점프가 $\pi$ 보다 작고 그만큼 덜 깊게 파인다.

4. 광섬유 — 군속도분산 대 자기위상변조[편집]

NLS가 공학적으로 유명해진 무대는 광섬유다. 느리게 변하는 포락선 근사에서 진행거리 $z$ 와 지연시간 $T$ 에 대해

i \frac{\partial A}{\partial z} - \frac{\beta_2}{2}\frac{\partial^2 A}{\partial T^2} + \gamma |A|^2 A = 0

이 되고, 두 항의 이름은 다음과 같다.

$\beta_2$ : 군속도분산(GVD). 파장 성분마다 군속도가 달라 펄스가 시간축에서 퍼진다. 표준 실리카 단일모드 광섬유는 영분산 파장이 약 1.3 µm이고, 통신 대역인 1.55 µm에서는 $\beta_2 < 0$ 인 이상분산(anomalous) 영역이다.
$\gamma|A|^2$ : 자기위상변조(SPM). 커 효과(Kerr effect)로 굴절률이 $n = n_0 + n_2 I$ 가 되어 펄스 자신의 세기가 자기 위상을 비튼다. 앞쪽은 붉게, 뒤쪽은 푸르게 처핑(chirp)된다.

$\beta_2 < 0$ 이면 GVD가 만드는 처핑과 SPM이 만드는 처핑의 부호가 반대라서 서로 상쇄될 수 있다. 균형 조건은 규격화된 솔리톤 차수

N^2 = \frac{\gamma P_0 T_0^2}{|\beta_2|}

가 $N=1$ 이 되는 것이며, 이때 $\mathrm{sech}$ 펄스가 모양을 유지한 채 간다. $N=2,3,\dots$ 인 고차 솔리톤은 주기 $z_0 = \pi T_0^2 / (2|\beta_2|)$ 로 압축과 복원을 반복한다. 정상분산( $\beta_2>0$ ) 영역이면 같은 식이 비집속형이 되어 어두운 솔리톤 쪽 이야기가 된다. 하세가와-태퍼트의 1973년 예측과 몰레나워의 1980년 실험, 그리고 그 뒤 광통신에서 벌어진 일은 솔리톤 문서에 정리돼 있다.²

5. 변조 불안정성과 breather[편집]

집속형 NLS에서 평면파 배경 $u = A e^{i A^2 t}$ 는 불안정하다. 파수 $k$ 인 미소 교란을 넣고 선형화하면 분산관계가

\Omega^2 = \frac{k^2}{4}\left(k^2 - 4A^2\right)

로 나오고, $0 < k < 2A$ 인 대역에서 $\Omega$ 가 순허수가 되어 지수적으로 자란다. 최대 성장률은 $k = \sqrt{2}A$ 에서 $A^2$ . 이것이 변조 불안정성(modulation instability, MI)이며, 매끈한 연속파가 저절로 펄스열로 부서지는 현상의 원인이다. 광섬유에서는 잡음에서 자라난 MI 사이드밴드가 초연속 스펙트럼 생성의 씨앗이 되고, 심해에서는 규칙적인 파열이 뭉치는 메커니즘으로 지목된다.

MI의 비선형 포화 단계를 정확히 기술하는 해들이 알려져 있다.

아흐메디예프 breather: 공간에 주기적이고 시간에 국소적. 배경에서 자라나 최대로 커졌다가 다시 배경으로 돌아간다(MI의 완전한 비선형 사이클).
쿠즈네초프-마 breather: 반대로 공간에 국소적이고 시간에 주기적.
페레그린 해(1983): 두 극한의 유리함수 극한으로, 시공간 양쪽에서 국소적이다.

u = e^{it}\left[1 - \frac{4(1 + 2it)}{1 + 4x^2 + 4t^2}\right]

$x=t=0$ 에서 $|u| = 3$ — 배경의 정확히 3배로 솟았다가 사라진다. “어디에서도 오지 않고 아무 데도 가지 않는 파도”라는 문구가 붙은 그 해다.

여기서 로그 파도(rogue wave) 논쟁이 시작된다. 페레그린 해가 3배 증폭을 준다는 사실 때문에 “괴물파는 NLS breather다”라는 서사가 널리 퍼졌고, 물통 실험과 광섬유 실험에서 실제로 재현됐다. 다만 실해역에 그대로 적용하는 데는 반론이 만만치 않다. 실제 해상은 협대역이 아니라 광대역·방향 확산(directional spreading) 상태이고, 방향성이 붙으면 MI 성장률이 크게 억제된다는 계산과 관측이 있다. 이 경우 선형 집속(파의 우연한 위상 정렬)과 2차 구속파 보정만으로도 극단파 통계가 상당 부분 설명된다는 입장이 유력하다. 정리하면 NLS breather는 잘 통제된 1차원 수조·광섬유에서 확실히 관측되는 현실이지만, 대양의 로그 파도 전체를 설명하는 단일 메커니즘이라는 주장은 아직 합의되지 않았다.³

6. 분할단계 푸리에법[편집]

NLS의 수치해석 표준은 분할단계 푸리에법(split-step Fourier method, SSFM)이다. 발상은 연산자 분리 그 자체다. 방정식을 두 조각으로 나누면

\underbrace{i u_t + \tfrac12 u_{xx} = 0}_{\mathcal{L}}, \qquad \underbrace{i u_t + \sigma|u|^2 u = 0}_{\mathcal{N}}

이고, 두 조각 모두 정확히 풀린다는 점이 이 방법의 전부다.

선형 조각 $\mathcal{L}$ 은 푸리에 공간에서 대각화된다: $\hat u(k, t+\Delta t) = e^{-i k^2 \Delta t/2}\,\hat u(k,t)$ . 고속 푸리에 변환으로 왕복만 하면 되고, 강성의 원인인 $u_{xx}$ 가 오차 없이 처리된다.
비선형 조각 $\mathcal{N}$ 은 $\partial_t |u|^2 = 0$ 이므로 세기가 그 부분스텝 동안 상수다. 따라서 실공간에서 격자점마다 $u \mapsto u\, e^{i\sigma|u|^2\Delta t}$ — 순수한 위상 회전이다.

리 트로터로 번갈아 쓰면 1차, 반 스텝을 앞뒤로 감싸는 스트랑 분할

u^{n+1} = e^{\mathcal{L}\Delta t/2}\,e^{\mathcal{N}\Delta t}\,e^{\mathcal{L}\Delta t/2} u^n

이면 2차다. 연속 스텝의 반쪽 선형 스텝을 합칠 수 있어 비용은 스텝당 FFT 왕복 한 번으로 리 트로터와 같다. 이게 왜 사실상 유일한 선택지가 되는지는 대안을 떠올려 보면 명확하다 — 명시적 유한차분은 $\Delta t \lesssim \Delta x^2$ 의 강성 제약에 묶이고, 암시적 도식은 비선형 방정식을 매 스텝 풀어야 한다. SSFM은 두 부담을 모두 없애면서 공간 정확도는 지수 수렴이다.

부수적으로 좋은 성질도 딸려온다. 두 부분흐름이 모두 NLS 해밀토니안의 부분 해밀토니안 흐름이므로 스트랑 SSFM은 **심플렉틱 적분기**이고, 그래서 에너지 오차가 장시간에 걸쳐 누적되지 않고 유계 진동한다. 함정도 명확하다. 비선형항이 3차라 곱셈이 스펙트럼을 3배로 넓히므로 별칭(aliasing) 위험이 KdV의 2차 항보다 크다(2차 비선형의 2/3 규칙에 대응하는 것이 3차에서는 1/2 규칙이다). 실무에서는 스펙트럼 꼬리가 기계 정밀도까지 떨어지도록 격자를 넉넉히 잡는 쪽을 더 많이 쓴다.

7. 보존량과 검증[편집]

NLS의 앞쪽 보존량은 다음과 같다.

M = \int |u|^2 dx, \qquad P = \frac{i}{2}\int (u u_x^* - u^* u_x)\,dx, \qquad H = \int \left(\frac{1}{2}|u_x|^2 - \frac{\sigma}{2}|u|^4\right) dx

각각 질량(광파워), 운동량, 해밀토니안이고, 적분가능계답게 뒤로 무한히 이어진다.

검증에서 반드시 짚어야 할 함정이 하나 있다. 분할단계 푸리에법은 $M$ 을 구성상 정확히 보존한다. 선형 스텝은 푸리에 계수에 절댓값 1인 인자를 곱하므로 파세발에 의해, 비선형 스텝은 격자점마다 절댓값 1인 인자를 곱하므로 자명하게 $\sum |u_j|^2$ 가 유지된다. 즉 질량 표류를 모니터링해서 나오는 값은 반올림 오차와 구현 버그(디에일리어싱 처리, 창 함수, 흡수 경계)뿐이며, 시간 적분의 정확도 지표로는 무력하다. 실제 수렴 판정은

해밀토니안 $H$ 의 표류(스트랑이면 유계 진동, 커지면 $\Delta t$ 가 크거나 스펙트럼이 부족한 것),
1-솔리톤을 오래 보낸 뒤의 $L_2$ 오차와 $\Delta t^2$ 수렴 차수,
2-솔리톤(집속형에서 $N=2$ 초기조건)의 주기적 복원과 위상 이동

으로 한다. 반대로 명시적 유한차분·룽게-쿠타법 계열을 쓸 때는 질량 표류가 아주 예민한 지표가 되니, “질량 보존을 봐라”라는 조언은 어떤 도식을 쓰는지에 따라 의미가 정반대라는 것만 기억하면 된다.⁴

8. 1차원 밖 — 적분가능성은 여기까지[편집]

지금까지의 이야기는 전부 공간 1차원 3차 NLS에 한정된다. 여기서 벗어나면 구조가 급격히 무너진다.

2차원 이상 집속형: 적분가능하지 않고, 2차원 3차 NLS는 $L^2$ -임계라서 임계 질량을 넘는 초기조건이 유한시간에 붕괴(collapse)한다. 광학에서는 자기집속에 의한 빔 붕괴에 대응하며, 실제로는 더 높은 차수의 비선형성·다광자 흡수·플라스마 생성이 개입해 정규화된다. 수치적으로는 적응 격자와 붕괴 스케일 추적이 필요한 완전히 다른 문제다.
다성분화·비선형성 변경: 광섬유의 두 편광 모드를 함께 다루면 결합 NLS(마나코프 계)가 되어 특정 대칭 조건에서만 적분가능성이 살아남고, 포화형·5차 비선형성을 넣으면 고립파는 여전히 있지만 충돌 후 방사파를 흘린다. 적분가능계의 판정 기준은 고립파의 존재가 아니라 충돌 시험이라는 원칙이 여기서도 유효하다.
응결계 응용: 인력/척력 BEC의 평균장 방정식(그로스-피타옙스키)이 외부 트랩 항이 붙은 NLS이며, 트랩이 있는 순간 적분가능성은 사라지고 수치해석이 유일한 수단이 된다.

9. 관련 문서[편집]

이름 때문에 “양자역학이 비선형이라는 얘기냐”는 오해가 주기적으로 재생산되는데, 아니다. 여기서 $u$ 는 고전 전자기장의 포락선이거나 응축체의 평균장이다. 굳이 따지면 보스-아인슈타인 응축의 그로스-피타옙스키 방정식이 다체 양자계의 평균장 근사라서 양자와 가장 가깝지만, 그것도 근사식이지 근본 법칙이 아니다. ↩
광섬유의 실제 방정식에는 손실 $\alpha$ , 3차 분산 $\beta_3$ , 라만 자기주파수이동, 자기가파름까지 붙는다. 이걸 다 넣은 것을 GNLSE(일반화 NLS)라 부르는데, 적분가능성은 당연히 없고 그래서 상용 시뮬레이터가 존재한다. 우아한 해석해는 논문의 1절에만 산다. ↩
이 논쟁의 재미있는 지점은 “실험으로 확인됐다”는 문장의 범위다. 수조와 광섬유에서 페레그린 해가 재현된 것은 사실이지만, 그 실험은 협대역·1방향으로 세심하게 세팅한 것이다. 자연 해상은 그 세팅이 아니다. 재현 실험이 곧 원인 규명은 아니라는, V&V 하는 사람들에게 익숙한 그 함정. ↩
“보존량이 잘 보존되니 우리 코드는 정확하다”는 논문 문장을 볼 때마다 어떤 도식인지 먼저 확인하는 습관이 생기는 이유다. 구성상 보존되는 양을 보존했다고 자랑하는 것은 항등식을 검증한 것에 가깝다. ↩