폰트랴긴 최대 원리

최적설계 수치해석 시뮬레이션 마지막 수정: 2026-08-11 04:13:27

1. 개요[편집]

폰트랴긴 최대 원리(Pontryagin’s maximum principle, PMP)는 입력이 유계 집합 안에 갇힌 최적 제어 문제의 1차 필요조건으로, 무한차원 함수 최적화를 “매 시각 유한차원 최소화 한 번”으로 잘라 주는 정리다. 1956년 레프 폰트랴긴(Л. С. Понтрягин)과 그의 제자 볼티안스키·감크렐리제·미셴코가 발표했고, 1961년의 저서 최적 과정의 수학적 이론으로 정리되면서 현대 최적 제어의 출발점이 됐다.¹

핵심 주장은 한 줄이다. 최적 궤적을 따라가면, 해밀토니안이 각 시각마다 허용 입력 집합 위에서 최소가 된다. 미분해서 0으로 놓는 것이 아니다 — 최적값이 집합의 경계에 있어도, 집합이 볼록이 아니어도, 심지어 유한개 점만으로 이루어져 있어도 성립한다. 변분법의 오일러-라그랑주 조건이 정확히 여기서 무너지기 때문에, PMP는 단순한 재포장이 아니라 진짜 확장이다.

2. 최소화 원리인가 최대 원리인가[편집]

문헌마다 부호가 다르고, 이게 입문자를 가장 많이 괴롭힌다. 정리해 두자. 문제를

\min_{u(\cdot)} \; J = \phi\big(x(t_f)\big) + \int_{t_0}^{t_f} L(x,u,t)\,dt, \qquad \dot{x} = f(x,u,t), \quad u(t) \in \mathcal{U}

로 두고 해밀토니안을 공학 관습대로

H(x,u,\lambda,t) = L(x,u,t) + \lambda^{\top} f(x,u,t)

로 쓰면, 최적해는 $H$ 를 최소화한다. 그런데 폰트랴긴의 원문은 비용을 상태에 흡수시킨 확대계 $\dot{x}^0 = L$ 위에서 수반벡터 $\psi = (\psi_0, \psi_1, \ldots, \psi_n)$ 을 잡고 $H = \psi_0 L + \psi^\top f$ 를 최대화한다. 여기서 $\psi_0 \le 0$ 이라는 부호 규약이 붙는데, 정규 문제에서 $\psi_0 = -1$ 로 규격화하면 $H = -L + \psi^\top f$ 이고, $\lambda = -\psi$ 로 바꾸면 최대화가 그대로 앞의 최소화가 된다. 같은 정리다. 러시아 학파가 최대화 형태로 썼고 서구 제어 교과서가 최소화 형태로 옮겨 쓴 것뿐이라, 어느 쪽이든 $\lambda$ 의 부호와 $\dot\lambda$ 의 부호가 짝이 맞는지만 확인하면 된다.

$\psi_0 = 0$ 인 경우를 비정규(abnormal) 극값이라 부른다. 이때 해밀토니안에서 비용이 아예 사라져 최적성 조건이 “제약을 만족하는 방법”만 말해 준다. 종단 제약이 빡빡해서 실행 가능한 궤적이 사실상 하나뿐인 문제에서 실제로 나타나며, 이걸 무시하고 $\psi_0 = -1$ 을 가정하면 존재하는 해를 놓친다.

3. 필요조건 한 벌[편집]

정규 문제의 조건은 네 덩어리다.

\dot{x} = \frac{\partial H}{\partial \lambda}, \qquad \dot{\lambda} = -\frac{\partial H}{\partial x}, \qquad u^{*}(t) = \arg\min_{u \in \mathcal{U}} H\big(x^{*},u,\lambda^{*},t\big), \qquad \lambda(t_f) = \frac{\partial \phi}{\partial x}\bigg|_{t_f}

둘째 식이 수반 방정식(costate/adjoint equation)이고, 넷째가 횡단조건(transversality condition)이다. 수반변수는 “그 시각에 상태를 조금 밀었을 때 남은 비용이 얼마나 변하는가”라는 잠재가격이며, 민감도 해석의 수반법이 쓰는 것과 완전히 같은 물건이다.

횡단조건은 종단이 어떻게 지정됐느냐에 따라 얼굴이 바뀐다.

종단 조건	붙는 횡단조건
$x(t_f)$ 자유, $t_f$ 고정	$\lambda(t_f) = \partial\phi/\partial x$
$x(t_f)$ 완전 지정	$\lambda(t_f)$ 자유 (조건 없음, 대신 상태 조건이 $n$ 개)
$x(t_f)$ 가 다양체 $g(x)=0$ 위	$\lambda(t_f) - \partial\phi/\partial x$ 가 다양체 접공간에 직교
$t_f$ 자유	$H(t_f) = -\partial\phi/\partial t\big

문제가 자율계( $f$ , $L$ 에 $t$ 가 명시적으로 없음)면 $dH/dt = \partial H/\partial t = 0$ 이라 $H$ 가 궤적을 따라 상수다. 여기에 $t_f$ 자유 조건이 겹치면 익숙한 $H \equiv 0$ 이 나오고, 최소시간 문제의 수치해를 검증하는 가장 손쉬운 체크섬이 된다.

4. 왜 변분법으로는 안 되는가 — 바늘 변분[편집]

오일러-라그랑주 조건은 약변분(weak variation)에서 나온다. 최적 입력을 $u^* + \epsilon\,\delta u$ 처럼 모든 시각에서 조금씩 흔들고 1차 항이 0이 되기를 요구하는 방식이다. 그런데 $|u| \le u_{\max}$ 라는 상자 제약이 있고 최적해가 경계에 붙어 있으면, 바깥쪽으로는 아예 흔들 수 없어서 $\partial H/\partial u = 0$ 이 성립할 이유가 없다.

PMP의 증명은 다른 변분을 쓴다. 길이 $\epsilon$ 의 아주 짧은 구간에서만 입력을 완전히 딴 값으로 갈아 끼우는 스파이크, 이른바 바늘 변분(needle variation)이다. 진폭이 큰 대신 지속 시간이 짧으므로 상태 궤적의 변화는 $O(\epsilon)$ 에 머물고, 그 섭동이 종단까지 어떻게 전파되는지를 선형화(수반 방정식)로 추적한다. 여기서 $\mathcal{U}$ 가 볼록일 필요도, 연결되어 있을 필요도 없다는 점이 자동으로 따라 나온다 — 갈아 끼우는 값은 $\mathcal{U}$ 의 아무 원소나 되기 때문이다. 도달 가능 집합의 볼록성은 변분들의 볼록 뿔을 만드는 과정에서 확보되고, 분리 초평면 정리로 마무리된다.

이 관점에서 보면 PMP는 고전 변분법의 바이어슈트라스 조건(E-함수 조건)을 강한 변분까지 확장한 것이며, 르장드르-클렙슈 조건 $\partial^2 H/\partial u^2 \succeq 0$ 은 그 국소 2차판이다.

부수적인 경고 하나. 이산시간에서는 같은 정리가 그냥 성립하지 않는다. 이산 최대 원리는 도달 집합의 방향성 볼록성 같은 추가 가정을 요구하고, 그게 없으면 반례가 있다. 연속시간에서 공짜로 얻었던 볼록성이 사실은 “ $\epsilon \to 0$ 인 바늘”이라는 연속체 덕분이었다는 뜻이다.

5. 뱅뱅 해와 특이 호[편집]

$H$ 가 $u$ 에 대해 선형인 아핀 제어계 $f = a(x) + B(x)u$ , $|u_i| \le 1$ 에서는 최소화가 계수의 부호 하나로 끝난다. 전환 함수 $\sigma(t) = \partial H/\partial u = B^\top\lambda$ (+ 비용의 선형항)에 대해

u_i^{*}(t) = -\,\mathrm{sign}\big(\sigma_i(t)\big)

이 되고, 입력이 상한과 하한 사이를 순간적으로 왕복하는 뱅뱅 제어가 나온다. 최소시간 문제가 거의 항상 뱅뱅인 것은 $L \equiv 1$ 이라 $u$ 가 오직 동역학을 통해서만 들어오기 때문이다.

전환 횟수에 대한 고전 결과가 있다. 선형 시불변계 $\dot{x} = Ax + bu$ 의 최소시간 문제에서 $A$ 의 고유값이 전부 실수면 전환은 최대 $n-1$ 번이다(펠트바움). 이중 적분기 $\ddot{y} = u$ , $|u| \le 1$ 은 $n=2$ 라 전환이 한 번뿐이고, 전환 곡선은

x_1 + \tfrac{1}{2}\,x_2\,|x_2| = 0

이라는 두 포물선 조각이다. “끝까지 밟다가 이 곡선을 만나는 순간 뒤집어 끝까지 밟는다”는 그 유명한 해가 정확히 이것이며, 이 곡선을 슬라이딩 면으로 쓰면 곧바로 시간최적 되먹임 법칙이 된다.² 다만 고유값에 복소수가 섞이면 전환이 무한히 많아질 수도 있다.

$\sigma(t)$ 가 한 점이 아니라 어떤 구간 내내 0이면 최대 원리가 그 구간의 $u$ 에 대해 아무 말도 하지 않는다. 이런 특이 호(singular arc)에서는 $\sigma$ 를 $u$ 가 명시적으로 튀어나올 때까지 시간 미분하고, 최적성을 위해 일반화 르장드르-클렙슈(켈리-콥-무이어) 부등식을 추가로 확인해야 한다. 고다드 로켓 문제의 중간 스로틀 구간이 교과서 사례이고, 자세한 내용은 최적 제어 문서에 있다.

6. 고전 문제 두 개의 대조[편집]

브라키스토크론. 1696년 요한 베르누이가 낸 최속강하선 문제는 제어를 경로 각도 $\theta$ 로 두면 최적 제어 문제가 되지만, $\theta$ 가 아무 제약 없이 실수 전체를 돌아다닌다. 그래서 PMP의 최소화 조건이 $\partial H/\partial\theta = 0$ 으로 퇴화하고, 결국 오일러-라그랑주 방정식과 같은 답(사이클로이드)에 도달한다. PMP를 써도 되지만 쓸 필요가 없는 문제의 표본이다.

최소시간 이중 적분기. 반대로 $|u| \le 1$ 이 항상 활성이라 $\partial H/\partial u$ 는 결코 0이 되지 않는다. 변분법으로는 표현 자체가 안 되고, PMP는 위에서 본 대로 정확한 전환 곡선을 준다. 두 문제를 나란히 놓으면 “PMP가 무엇을 더 주는가”가 한눈에 보인다.

실무에서 훨씬 자주 만나는 형태는 우주 궤도 전이다. 로던(Lawden, 1963)의 프라이머 벡터(primer vector)는 속도에 대응하는 수반변수 $\lambda_v$ 를 가리키는데, 이 벡터의 크기가 곧 전환 함수 역할을 해서 추력을 켤 시각은 $\lVert\lambda_v\rVert$ 가 임계를 넘는 구간, 추력의 방향은 $\lambda_v$ 방향으로 결정된다. 임펄스 근사에서는 크기가 임계에 닿는 이산 시각에만 분사가 일어난다. PMP가 준 이 한 줄이 반세기 동안 임무 설계의 문법이 됐다(치올콥스키 로켓 방정식이 답하지 못하는 “언제 켜느냐”에 대한 답이다).

7. 수치적으로는 2점 경계값 문제[편집]

PMP의 대가는 계산에서 돌아온다. 상태는 $x(t_0)$ 에서 앞으로, 수반은 $\lambda(t_f)$ 에서 뒤로 적분해야 하므로 초기값 문제가 아니라 2점 경계값 문제(TPBVP)다. 가장 소박한 처방인 간접 슈팅은 $\lambda(t_0)$ 를 찍어 앞으로 적분하고 종단 조건 오차를 뉴턴-랩슨법으로 줄이는데, 세 가지가 발목을 잡는다.

감도. 수반 방정식은 상태 방정식의 선형화를 전치한 것이라, 상태가 안정한 방향이 수반에서는 불안정한 방향이 된다. $\lambda(t_0)$ 의 소수점 아래 여섯째 자리가 종단에서 지수적으로 증폭되어 궤도를 태양계 밖으로 보낸다. 구간을 쪼개 각각 짧게 쏘는 다중 슈팅이 표준 완화책이다.
초기 추측. 상태에 대해서는 물리적 직관이 있지만, “이 시각의 수반변수는 대략 얼마”라는 감각은 아무도 없다. 잠재가격의 단위조차 문제마다 다르다.
구조 추측. 뱅뱅·특이 호·상태 제약이 섞이면 전환 시각과 접합점의 개수와 순서를 미리 정해 놓고 풀어야 한다. 구조를 잘못 가정하면 수렴하지 않거나, 더 나쁘게는 최적이 아닌 해에 수렴한다. 상태 제약이 있으면 수반이 접합점에서 점프하고 승수가 측도값이 되는 등 이론 자체도 무거워진다.

그래서 현대 실무는 문제를 먼저 이산화해 큰 비선형계획으로 던지는 직접법(직접 전사·collocation·의사스펙트럼법)으로 크게 기울었다. 다만 PMP가 폐기된 것은 아니다. 직접법의 KKT 승수가 이산화된 수반변수와 대응한다는 covector mapping 관계 덕분에, 직접법으로 풀고 PMP로 채점하는 것이 지금의 표준 워크플로다. 두 그림이 겹치면 격자가 충분한 것이고, 안 겹치면 격자를 늘리거나 특이 호를 의심한다.³

8. 관련 문서[편집]

폰트랴긴은 열네 살에 사고로 시력을 잃었고, 어머니가 수학 논문을 소리 내어 읽어 주는 방식으로 공부해 위상수학의 거장이 됐다. 최적 제어는 그가 오십 줄에 들어서 방향을 튼 뒤의 작업이다. 정리 이름에 제자 셋의 이름이 빠진 것을 두고는 예나 지금이나 말이 많다. ↩
그래서 최소시간 제어를 처음 구현하면 대부분 액추에이터부터 갈아 먹는다. 이론상의 전환은 순간이지만 현실의 밸브·모터는 그 스텝을 그대로 따라가지 못하고, 전환 곡선 근처에서 미세하게 왕복하며 채터링을 만든다. 이 지점에서 뱅뱅 제어와 슬라이딩 모드 제어는 사실상 같은 병을 앓는다. ↩
“그럼 직접법만 배우면 되나요”라는 질문에 대한 현장의 답은 “아니오”다. 직접법 결과가 이상할 때 무엇이 이상한지 말해 주는 언어가 수반변수뿐이기 때문이다. 승수 궤적이 톱니 모양이면 격자, 갑자기 튀면 접합점, 평평하게 0이면 그 제약이 아무 일도 안 하고 있다는 뜻이다. ↩