점성해

1. 개요[편집]

점성해 Viscosity Solution
제안	크랜들 · 리옹 (1983)
대상	해밀턴-야코비 방정식 등 완전비선형 1·2계 PDE
정의 방식	시험함수와의 접촉 부등식 (부분해 / 상해)
이름의 유래	점성 소멸법(vanishing viscosity)의 극한
핵심 무기	비교 원리 → 유일성 + 안정성
수치 정리	단조·안정·정합 도식은 점성해로 수렴 (바를-수가니디스, 1991)

해가 여러 개면 “푼다”는 말이 성립하지 않는다. 그래서 먼저 할 일은 어느 것이 진짜인지 정하는 규칙을 만드는 것이다.

점성해(viscosity solution)는 해밀턴-야코비 방정식처럼 고전해가 존재하지 않는 완전비선형 편미분방정식에 대해, 미분을 시험함수로 옮겨 놓은 부등식 두 개로 정의하는 약한 해의 개념이다. 크랜들과 리옹이 1983년 논문에서 도입했고,¹ 결정적인 성질은 유일성이다 — 무수히 많은 “거의 모든 점에서 방정식을 만족하는” 후보 중에서 물리적으로 옳은 하나를 정확히 집어낸다.

$$u_t + H(x, Du) = 0$$

이 꼴의 방정식이 나오는 곳이 한둘이 아니다. 최적 제어의 가치함수(해밀턴-야코비-벨만 방정식), 파면의 도달시간(아이코날 방정식), 계면 추적(레벨셋 방법), 로봇의 경로 계획, 기하광학, 미분게임. 이 모든 분야가 1983년 이전까지 “해가 뭔지 정의도 안 된 방정식”을 각자 알아서 근사하고 있었다는 것이 이 개념의 역사적 위치다.

2. 왜 고전해가 없나[편집]

이유는 특성곡선법에 있다. 1계 비선형 PDE는 특성 ODE를 따라 정보를 나르는데, 속도장이 해에 의존하므로 특성선끼리 교차한다. 교차점에서는 서로 다른 값이 도착하고, 매끄러운 함수는 그것을 동시에 만족할 수 없다. 초기값이 아무리 매끄러워도 유한 시간에 $Du$ 가 발산하며 꺾인 점(kink)이 생긴다.

그렇다고 “거의 모든 점에서 만족하는 립시츠 함수”로 정의를 느슨하게 풀면 반대편 절벽이 나온다. 교과서에 늘 나오는 예가 이것이다.

$$|u'(x)| = 1 \ \ \text{on } (-1,1), \qquad u(-1)=u(1)=0$$

기울기가 $\pm1$ 인 톱니를 아무 데서나 꺾어 만들면 거의 모든 점에서 방정식을 만족하는 해가 무한히 많다. 꼭짓점을 두 개 쓰든 백 개 쓰든 상관없다. 그런데 물리적으로 의미 있는 것 — 경계에서 출발한 파면의 도달시간, 즉 거리함수 — 은 $u(x)=1-|x|$ 하나뿐이다.

여기서 점성해가 하는 일이 명확해진다. $u=1-|x|$ 는 통과시키고 $u=|x|-1$ 이나 톱니들은 탈락시키는 규칙을 만드는 것. $\Lambda$ 모양으로 위로 뾰족한 꺾임은 허용하고 $\mathrm V$ 모양으로 아래로 뾰족한 꺾임은 금지한다 — 이 비대칭이 정의의 핵심이다. 참고로 보존법칙에서 압축 충격파는 허용하고 팽창 충격파는 금지하는 엔트로피 조건과 정확히 같은 성격의 규칙이다.

3. 점성 소멸법 — 이름의 유래[편집]

가장 먼저 떠오르는 선택 규칙은 물리적이다. 방정식에 아주 작은 확산을 넣는다.

$$u^\varepsilon_t + H(x, Du^\varepsilon) = \varepsilon\,\Delta u^\varepsilon$$

$\varepsilon>0$ 이면 방정식이 준선형 포물형이 되어 매끄러운 유일해가 존재한다. 그 뒤 $\varepsilon\to0^+$ 극한을 취하면 어떤 한 함수로 수렴하고, 그것을 답으로 채택하자는 것이 점성 소멸법(vanishing viscosity)이다. 유체의 점성이 충격파를 얇은 층으로 매끄럽게 펴 놓는 것과 같은 발상이라 이름도 그렇게 붙었다.

문제는 이 정의가 쓰기에 지독히 불편하다는 것이다. 유일성을 증명하려면 매번 $\varepsilon$ 족의 컴팩트성과 극한의 존재를 다뤄야 하고, 극한이 어떤 성질을 갖는지 직접 조작할 수가 없다. 크랜들과 리옹의 기여는 $\varepsilon$ 을 완전히 지운 등가 정의를 찾아낸 것이다. 정의에 확산항이 한 글자도 안 나오는데도 같은 함수를 골라낸다.

그래서 이름이 오해를 부른다. 점성해는 점성 유체와 아무 관계가 없고, 정의에는 점성계수가 등장하지 않는다. 역사적 흔적으로 남은 작명일 뿐이다.²

4. 정의 — 미분을 시험함수로 떠넘긴다[편집]

$u$ 가 꺾여서 $Du$ 가 없다면, 미분을 할 수 있는 다른 함수에게 미분을 넘기면 된다. 약형식이 부분적분으로 미분을 시험함수에 넘기는 것과 발상은 같은데, $H$ 가 $Du$ 에 대해 비선형이라 부분적분이 통하지 않으므로 접촉 조건을 쓴다.

점성 부분해(subsolution)는 상반연속인 $u$ 로서, 임의의 시험함수 $\varphi\in C^1$ 에 대해 $u-\varphi$ 가 $(x_0,t_0)$ 에서 국소최대일 때마다

$$\varphi_t(x_0,t_0) + H\bigl(x_0,\, D\varphi(x_0,t_0)\bigr) \le 0$$

을 만족하는 것이다. 점성 상해(supersolution)는 하반연속인 $u$ 로서, $u-\varphi$ 가 국소최소일 때마다 부등호가 뒤집힌

$$\varphi_t(x_0,t_0) + H\bigl(x_0,\, D\varphi(x_0,t_0)\bigr) \ge 0$$

을 만족하는 것. 그리고 점성해는 연속이면서 둘 다인 함수다.

읽는 법은 이렇다. $u$ 를 위에서 만지는 매끄러운 함수는 부등식 하나를, 아래에서 만지는 매끄러운 함수는 반대 부등식을 만족해야 한다. $u$ 가 $C^1$ 인 점에서는 $D\varphi=Du$ 이므로 두 부등식이 합쳐져 등식이 되고, 결국 매끄러운 곳에서는 고전해와 완전히 같다. 반대로 $C^1$ 인 점성해는 고전해다. 새 개념이 옛 개념을 덮어쓰지 않고 확장한다는 뜻.

비대칭이 어디서 오는지도 보인다. 아래로 뾰족한 꺾임에서는 위에서 접하는 $C^1$ 함수가 아예 없으므로 부분해 조건이 공짜로 통과하지만, 위로 뾰족한 꺾임에서는 아래에서 접하는 함수가 없어서 상해 조건이 공짜로 통과한다. 어느 쪽 뾰족점이 살아남는지는 방정식의 부호가 정한다. 그래서 $u_t+H=0$ 과 $-u_t-H=0$ 은 같은 방정식이지만 점성해는 서로 다르다. 이 바닥에서 부호 규약을 틀려 반대 답을 얻는 사고가 주기적으로 재현되는 이유다.³

동치인 표현으로 상·하 준미분(semi-jet) $D^+u,\ D^-u$ 를 쓰는 방식이 있고, 2계로 올라갈 때는 이쪽이 표준이다. 시험함수 형태의 정의를 정리한 것은 크랜들·에번스·리옹(1984)이다.

5. 비교 원리, 유일성, 안정성[편집]

정의만 있으면 아무 쓸모가 없다. 값어치는 비교 원리(comparison principle)에서 나온다.

$u$ 가 점성 부분해, $v$ 가 점성 상해이고 경계·초기 자료에서 $u\le v$ 이면, 영역 전체에서 $u\le v$ 다.

여기서 유일성이 즉시 따라온다 — 두 해 $u,v$ 는 서로에 대해 부분해이자 상해이므로 $u\le v$ 이고 $v\le u$ 다. 고전적 최대 원리를 비선형·비매끄러움까지 확장한 것이 이 정리이며, 증명 기법은 변수 이중화(doubling of variables)다. $u(x)-v(y)-|x-y|^2/(2\delta)$ 를 최대화해 두 개의 서로 다른 점을 강제로 만들어 낸 뒤 $\delta\to0$ 으로 붙인다. 미분 불가능한 함수를 다루면서도 최대점에서의 1계 조건을 쓸 수 있게 만드는 트릭이고, 2계 방정식으로 올라가면 여기에 이시이의 보조정리(1989)가 필요해진다.

수치해석에 직접 값을 하는 것은 오히려 안정성이다.

점성해(부분해·상해)의 국소균등수렴 극한은 다시 점성해(부분해·상해)다.

정의가 부등식 두 개뿐이라 극한이 부등식을 그대로 물려받는다. 이 성질 덕분에 “격자를 세밀하게 하면 뭔가로 수렴한다”만 보이면 그 극한이 자동으로 점성해가 된다. 존재성은 페론 방법을 점성해에 이식한 이시이(1987)의 결과로 얻고, 비교 원리가 그것을 유일하게 못 박는다. 2계까지 포함한 이론 전반은 크랜들·이시이·리옹의 1992년 User’s guide 가 표준 참고문헌이다.

2계로 확장할 때 요구되는 구조 조건은 퇴화 타원성(degenerate ellipticity)이다. $F(x,u,Du,D^2u)=0$ 에서 $X\ge Y$ 이면 $F(\cdot,X)\le F(\cdot,Y)$ — 확산이 0이 되는 것까지 허용하되 부호는 뒤집히지 않아야 한다는 조건이다. 이 조건 하나로 1계 해밀턴-야코비, 퇴화 확산을 가진 확률 최적제어의 HJB, 몽주-앙페르, 평균곡률 흐름이 같은 틀에 들어온다.

6. 보존법칙의 엔트로피 해와의 관계[편집]

둘은 사촌이 아니라 1차원에서는 사실상 같은 것이다. 스칼라 보존법칙과 해밀턴-야코비를 나란히 놓으면

$$u_t + f(u)_x = 0, \qquad v_t + f(v_x) = 0, \qquad u = v_x$$

해밀턴-야코비 방정식은 스칼라 보존법칙을 한 번 적분한 형태다. 그리고 크루즈코프(1970)의 엔트로피 해 $u$ 의 원시함수가 정확히 대응하는 해밀턴-야코비 방정식의 점성해 $v$ 다. 대응 관계를 표로 정리하면 이렇다.

보존법칙 $u$	해밀턴-야코비 $v$
충격파(불연속)	꺾인 점(기울기 불연속)
팽창 부채	매끄러운 곡면 조각
엔트로피 조건 (라프 조건)	점성해 조건 (한쪽 꺾임만 허용)
총변동 감소	준오목성(semiconcavity)
보존형 이산화 필수	보존형일 필요 없음

마지막 줄이 실전에서 중요한 차이다. 보존법칙은 란킨-위고니오 관계를 맞추기 위해 플럭스 차분 형태를 반드시 지켜야 하지만(고두노프 도식·WENO 도식이 그래서 보존형이다), 해밀턴-야코비는 적분된 형태라 비보존형 이산화가 허용된다. 대신 단조성이라는 다른 족쇄가 붙는다.

또 하나의 차이 — 다차원에서는 이 대응이 깨진다. 1차원 스칼라에서만 $u=v_x$ 가 성립하고, 다차원 보존법칙계(오일러 방정식 같은 것)에는 대응하는 해밀턴-야코비가 없다. 점성해 이론이 완전비선형 스칼라 방정식에는 강력하지만 쌍곡계에는 통째로 적용되지 않는 이유다.

7. 수치해법 — 바를-수가니디스 정리[편집]

이 분야의 헌법 조항은 바를과 수가니디스(1991)의 수렴 정리다.⁴

근사 도식이 단조(monotone)·안정(stable)·정합(consistent)하고, 극한 방정식에 강한 비교 원리가 성립하면, 도식의 해는 유일한 점성해로 국소균등수렴한다.

락스 등가정리의 비선형판처럼 보이지만 성격이 다르다. 락스에서는 안정성이 발산을 막는 역할이지만, 여기서는 단조성이 “여러 해 중 어느 것으로 갈지”를 정한다. 도식이 정확하기만 하고 단조하지 않으면 발산하지 않고도 엉뚱한 약해로 얌전히 수렴할 수 있다. 상류차분이 필수인 이유가 정확도가 아니라 해의 선택에 있다는 이 사정이 해밀턴-야코비 수치해석의 특이점이다.

증명의 뼈대는 앞 절의 안정성이다. 바를-페르탐의 반완화 극한(half-relaxed limit)으로 상·하 극한 $\bar u,\underline u$ 를 각각 부분해·상해로 만들고, 비교 원리로 $\bar u\le\underline u$ 를 얻어 둘이 같음을 보인다. 단조성이 “부분해는 부분해로 간다”는 부등식 보존을 담당한다.

주의할 점 두 가지. 정리는 수렴을 말하지만 수렴 속도를 말하지 않는다. 속도는 별도 결과이고, 크랜들-리옹(1984)이 얻은 대표적 한계가 $O(\sqrt{h})$ 다. 매끄러운 곳에서는 훨씬 좋지만 최악의 경우 보장은 이 정도. 또, 단조 도식은 원리적으로 1차 정확도를 넘지 못한다 — 고두노프 장벽의 해밀턴-야코비판이다. 고차가 필요하면 오셔-슈(1991)의 ENO/WENO 계열로 형식적 단조성을 포기하는 타협을 하고, 그 대가로 정리의 보장을 잃는다.

7.1. 수치 해밀토니안[편집]

$u_t + H(u_x)=0$ 을 이산화할 때 좌·우 차분 $u_x^-,u_x^+$ 를 함께 받는 수치 해밀토니안 $\hat H(a,b)$ 를 쓴다. 요구 조건은 정합성 $\hat H(a,a)=H(a)$, 그리고 첫 인수에 비감소·둘째 인수에 비증가(그래야 도식이 단조해진다). 표준 선택 두 가지.

라프-프리드리히스형. 중앙차분에 인공 소산을 얹는다.

$$\hat H^{\mathrm{LF}}(a,b) = H\!\left(\frac{a+b}{2}\right) - \frac{\alpha}{2}\,(b-a), \qquad \alpha \ge \max\bigl|H'\bigr|$$

$H$ 의 형태를 몰라도 되고 어떤 $H$ 에나 붙는다는 것이 장점, 소산이 커서 꺾인 점이 뭉개진다는 것이 단점이다. 일단 돌려서 답의 모양을 보고 싶을 때 쓰는 물건.

고드노프형. $H$ 가 볼록이면 정확한 국소 리만 문제를 풀 수 있다.

$$\hat H^{\mathrm{G}}(a,b) = \begin{cases} \min_{a\le w\le b} H(w), & a\le b\\[2pt] \max_{b\le w\le a} H(w), & a> b \end{cases}$$

소산이 최소라 꺾인 점이 날카롭게 유지된다. 오셔와 세시안(1988)이 레벨셋 방법과 함께 제시한 상류 도식이 이 계열이고, $H(p)=|p|$ 인 아이코날의 경우 익숙한 $\max\bigl(a^+,\,-b^-\bigr)$ 꼴로 떨어진다($a^+=\max(a,0)$, $b^-=\min(b,0)$). 대신 $H$ 가 비볼록이면 극값 탐색이 까다로워지고, 다차원에서 성분별로 분해하면 정확한 고드노프가 아니게 된다.

7.2. 아이코날·고속 행진법·레벨셋[편집]

정상상태 아이코날 방정식 $|\nabla T| = s(\mathbf x)$ 에서 고드노프형 이산화가 점성해로 수렴한다는 것을 증명한 것이 루이와 투랭(1992)이다. 여기서 나오는 이산 방정식은 각 격자점의 값이 이웃의 작은 값들에만 의존하는 단조 구조라, 값을 작은 것부터 확정해 나가는 라벨 설정 전략이 성립한다 — 그것이 고속 행진법(치치클리스 1995, 세시안 1996)이고 반복 없이 $O(N\log N)$ 에 끝난다. 반복형인 고속 스위핑법도 같은 이산 방정식을 방향별 가우스-자이델로 푼다. 점성해 개념이 없으면 이 알고리즘들이 “무엇으로 수렴하는지” 말할 수가 없다.

시간의존 문제 쪽에서는 레벨셋 방법의 $\phi_t + F|\nabla\phi| = 0$ 이 그대로 해밀턴-야코비이고, 계면이 스스로 교차하거나 갈라질 때 생기는 꺾임을 다루는 근거가 점성해다. 부호거리함수로의 재초기화가 아이코날 풀이라는 점에서 두 이야기는 결국 하나로 만난다. 거리 변환도 속도가 상수인 특수한 경우다.

8. 한계[편집]

정직하게 적어 둘 것들.

• 비교 원리가 성립해야 한다. 바를-수가니디스 정리는 강한 비교 원리를 가정에 넣는다. 경계조건이 사나운 문제, $H$ 의 $x$ 의존이 나쁜 문제, 불연속 계수(매질 경계) 문제에서는 비교 원리 자체가 별도의 연구 주제이고, 성립하지 않으면 수렴 정리가 통째로 무의미해진다.
• 차원의 저주. 점성해 이론은 해가 무엇인지 말해 주지만 격자 없이 푸는 법을 주지는 않는다. 상태 차원이 5~6을 넘으면 격자 기반 도식은 사실상 불가능하고, 그래서 신경망 근사가 시도되지만 잔차 손실은 점성해로의 수렴을 보장하지 않는다. 단조성이 하던 선택 역할을 대신할 장치가 없기 때문이다.
• 초동만 준다. 아이코날에서 점성해는 최소 도달시간에 대응하므로, 뒤늦게 도착하는 다중 도달파는 원리적으로 표현되지 않는다.
• 최적제어 밖의 응용. 미분 게임의 상·하 가치함수, 프런트 전파, 형상복원(shape-from-shading), 이미지 처리의 형태학 연산이 모두 점성해 틀에 들어온다. 반대로 쌍곡계·분산성 방정식·변분부등식 일부는 이 틀 밖이다.

9. 관련 문서[편집]

• 해밀턴-야코비-벨만 방정식 · 최적 제어 · 동적 계획법 · 폰트랴긴 최대 원리
• 아이코날 방정식 · 고속 행진법 · 레벨셋 방법 · 거리 변환
• 엔트로피 해 · 충격파 · 고두노프 도식 · WENO 도식 · 전변분 감소
• 특성곡선법 · 편미분방정식 · 단조 도식 · 수렴성
• 미분 게임 · 경로 계획 · 소볼레프 공간 · 바나흐 공간

10. Footnotes[편집]

1. M. G. Crandall and P.-L. Lions, Viscosity solutions of Hamilton-Jacobi equations, Trans. Amer. Math. Soc. 277 (1983), 1–42. 리옹은 비선형 편미분방정식 기여로 1994년 필즈상을 받았다. 제어공학자들이 “그냥 컴퓨터로 풀면 되지 않나” 하며 넘어가던 방정식이 알고 보니 필즈상급 난제였다는 흔한 이야기. 표기는 이 위키에서 라이온스/리옹이 섞여 쓰이는데 프랑스어 발음은 리옹 쪽이다. ↩

2. 그래서 CFD 하던 사람이 “점성해”를 처음 들으면 레이놀즈수부터 떠올리는 참사가 벌어진다. 확실히 해 두자 — 정의에 $\varepsilon$ 이 없다. 굳이 유체와 엮자면 인공 점성이 충격파를 고르는 것과 발상이 닮았다는 정도이고, 그마저도 최종 정의에서는 지워졌다. ↩

3. 실제로 자주 나오는 사고는 도달시간 $T$ 를 푸는 코드를 그대로 가져다 “남은 시간”이나 “비용의 음수”를 풀게 시키는 경우다. 부호를 뒤집으면 허용되는 꺾임의 방향도 뒤집히므로, 상류차분의 방향을 같이 뒤집지 않으면 답이 조용히 반대편 톱니로 간다. 발산하지 않고 그럴듯한 그림이 나온다는 점이 제일 무섭다. ↩

4. 정리 이름의 표기가 문헌마다 갈린다. Souganidis는 그리스 이름(Σουγανίδης)이라 “수가니디스”가 원음에 가깝고, 영어권에서는 “수거니디스”에 가깝게 읽는 사람도 많다. 어느 쪽이든 1991년 Asymptotic Analysis 논문 한 편을 가리킨다. ↩