정규형 이론

수치해석 계산물리 물리 마지막 수정: 2026-08-08 04:37:05

1. 개요[편집]

정규형 이론 Normal form theory
목적	평형점 근방 벡터장을 좌표변환으로 최대한 단순화
핵심 정리	푸앵카레-둘락 정리
걸림돌	공명(resonance) 항 — 제거 불가
도구	호몰로지 연산자 ad_A의 상(image)
짝 이론	중심 다양체 정리
구현	MatCont · AUTO-07p · COCO

정규형 이론(normal form theory)은 평형점 근방의 벡터장을 항등변환에 가까운 좌표변환으로 바꿔가며 없앨 수 있는 비선형 항을 전부 없애고, 원리적으로 없앨 수 없는 최소한의 항만 남긴 표준 꼴 — 즉 정규형 — 을 얻는 이론이다. 한마디로 “좌표 탓인 복잡함”과 “계 자체가 갖고 있는 복잡함”을 분리하는 작업이며, 분기 이론에서 100차원 계와 2차원 계가 왜 임계점 근처에서 똑같이 생겼는지를 설명하는 근거가 된다.

동기는 단순하다. 선형계 $\dot{\mathbf x} = A\mathbf x$ 는 조르당 표준형으로 완전히 분류된다. 그렇다면 비선형 항도 좌표를 잘 골라 지워버릴 수 있지 않을까? 답은 “대부분은 되는데, 공명이 걸린 항만은 안 된다”이고, 그 못 지운 잔여물이 계의 진짜 성격을 결정한다.

2. 호몰로지 방정식 — 항을 지우는 기계[편집]

평형점을 원점에 놓고 테일러 전개한다.

\dot{\mathbf x} = A\mathbf x + F_2(\mathbf x) + F_3(\mathbf x) + \cdots

여기서 $F_k$ 는 $k$ 차 동차 다항식 벡터다. 이제 $k$ 차 항만 건드리는 근사 항등변환

\mathbf x = \mathbf y + h_k(\mathbf y), \qquad h_k \in \mathcal H_k

을 대입하고 $k$ 차까지 정리하면, $k$ 차 항이 다음처럼 바뀐다.

F_k \;\longmapsto\; F_k - \big(Dh_k(\mathbf y)\,A\mathbf y - A\,h_k(\mathbf y)\big) \;=\; F_k - L_A h_k

괄호 안의 $L_A = \mathrm{ad}_A$ 를 호몰로지 연산자라 부른다. $L_A$ 는 $k$ 차 동차 다항식 벡터장들의 유한차원 공간 $\mathcal H_k$ 위의 선형사상이므로, 여기서 문제 전체가 선형대수로 환원된다.

$F_k \in \mathrm{Im}(L_A)$ 이면 $L_A h_k = F_k$ 를 푸는 $h_k$ 가 있고, 그 $k$ 차 항은 완전히 사라진다.
$\mathrm{Im}(L_A)$ 의 여공간(complement)에 남는 성분은 어떤 좌표변환으로도 지울 수 없다. 이것이 정규형에 살아남는 항이다.

여기서 항이 하나 지워질 때마다 더 높은 차수 항이 새로 만들어지지만, 차수를 낮은 쪽부터 순서대로 처리하면 이미 정리한 차수는 다시 오염되지 않는다. 이 순차 진행이 정규형 계산의 골격이다.¹

3. 공명 조건과 푸앵카레-둘락 정리[편집]

$A$ 가 고유값 $\lambda_1,\dots,\lambda_n$ 으로 대각화된다고 하자. 단항식 벡터장 $\mathbf y^{\mathbf m}\mathbf e_j$ ( $\mathbf m$ 은 다중지수, $|\mathbf m| = k$ )는 $L_A$ 의 고유벡터이고, 고유값은

\langle \mathbf m, \boldsymbol\lambda\rangle - \lambda_j = \Big(\sum_{i} m_i \lambda_i\Big) - \lambda_j

다. 따라서 이 고유값이 0이 아니면 $L_A$ 는 그 방향으로 가역이라 해당 항은 지워진다. 반대로

\lambda_j = \sum_{i=1}^{n} m_i \lambda_i, \qquad |\mathbf m| \ge 2

가 성립하면 고유값이 0이 되어 그 단항식은 핵(kernel)에 걸리고 살아남는다. 이 조건을 공명(resonance)이라 부른다.

푸앵카레-둘락 정리는 이 결과를 정리한 것이다. 임의의 형식적 벡터장은 형식적 좌표변환으로 선형부 + 공명 항만 남은 꼴로 바꿀 수 있다. 특히 고유값에 공명이 하나도 없으면 모든 비선형 항이 형식적으로 제거되어 계는 형식적으로 선형화된다. 고유값들이 0을 볼록껍질에 포함하지 않는 이른바 푸앵카레 영역에 있으면 그 변환이 실제로 수렴해 해석적 선형화까지 간다.

문제는 지멜 영역이다. 공명이 정확히 걸리지는 않았지만 $\langle\mathbf m,\boldsymbol\lambda\rangle - \lambda_j$ 가 0에 한없이 가까워지는 경우, 변환 계수의 분모가 작아져 급수가 발산할 수 있다. 이 작은 분모(small divisor) 문제는 KAM 정리에서 만나는 것과 정확히 같은 종류이며, 디오판토스 조건을 걸어야 수렴을 보장할 수 있다.² 그래서 실무에서 다루는 정규형은 대부분 형식적이거나 유한 차수까지만 유효한 근사다.

4. 분기의 정규형 카탈로그[편집]

실제로 쓰는 정규형은 파라미터를 포함한 위상적 정규형이다. 여차원 1인 국소 분기는 사실상 다음이 전부다.

안장-마디(saddle-node, fold): $\dot x = \mu \pm x^2$ . 고유값 하나가 0을 지날 때. $\mu$ 부호에 따라 평형점 두 개가 충돌해 소멸한다.
가로지름(transcritical): $\dot x = \mu x - x^2$ .
갈래(pitchfork, $x \to -x$ 대칭계 전용): $\dot x = \mu x \mp x^3$ .
호프: 복소 켤레 쌍 $\pm i\omega_0$ 가 허수축을 건널 때 극한 순환이 태어난다.

네 번째 것만 따로 보자. 복소 좌표 $z$ 에서 임계 고유값은 $\lambda = i\omega_0$ , $\bar\lambda = -i\omega_0$ 이므로 공명 조건을 따지면 살아남는 단항식은 $z^p\bar z^q$ 중 $p - q = 1$ 인 것들뿐이다. 즉 $z,\ z|z|^2,\ z|z|^4,\dots$ 만 남아

\dot z = (\mu + i\omega_0)z + c_1 z|z|^2 + O(|z|^5)

가 되고, 극좌표로 옮기면 서두에서 본 두 줄짜리 꼴이 된다.

\dot r = \mu r + a r^3 + O(r^5), \qquad \dot\theta = \omega_0 + b r^2 + O(r^4)

“호프 분기의 정규형이 왜 하필 3차까지인가”에 대한 답이 바로 공명 계산이다. $z^2$ 도 $\bar z^2$ 도 $z\bar z$ 도 전부 비공명이라 지워지고, 3차 중 유일하게 $z|z|^2$ 만 살아남는다.

여차원 2로 올라가면 목록이 조금 늘어난다. 커스프 $\dot x = \mu_1 + \mu_2 x \pm x^3$ , 그리고 0 고유값이 겹치는 보그다노프-타켄스 분기

\dot x = y, \qquad \dot y = \mu_1 + \mu_2 y + x^2 \pm xy

가 대표적이다. 후자는 안장-마디·호프·호모클리닉 궤도가 한 점에서 만나는 구조라, 파라미터 평면에 그려지는 분기 곡선들의 조직 중심(organizing center) 역할을 한다.

5. 제1 랴푸노프 계수 — 부호 하나가 전부다[편집]

호프 정규형에서 $r>0$ 인 정상해는 $r^2 = -\mu/a$ 이므로, $a$ 의 부호가 극한 순환이 어느 쪽에 어떤 안정성으로 태어나는지를 혼자 결정한다. $a<0$ 이면 초임계(진폭이 $\sqrt\mu$ 로 얌전히 자람), $a>0$ 이면 아임계(임계점에서 대진폭으로 점프 + 이력현상). 자세한 물리적 귀결은 호프 분기 문서에 있다.

$a$ 는 눈으로 보이지 않고, 3차 테일러 계수들의 조합으로만 나온다. 중심 방향의 방정식을 $\dot z = i\omega_0 z + \sum_{j+k\ge2} \frac{1}{j!k!}g_{jk}z^j\bar z^k$ 로 적었을 때 쿠즈네초프 교과서의 표준 공식은

\ell_1(0) = \frac{1}{2\omega_0^2}\,\mathrm{Re}\!\left(i\,g_{20}g_{11} + \omega_0 g_{21}\right)

이다. 눈여겨볼 것은 2차 계수 $g_{20}, g_{11}$ 이 3차 계수 $g_{21}$ 과 함께 들어온다는 점이다. 앞 절에서 2차 항은 좌표변환으로 전부 지워진다고 했는데, 지우는 과정에서 그 정보가 3차 항으로 흘러들어가기 때문이다. 2차 항을 지웠으니 무시해도 된다고 생각하는 것이 이 계산의 대표적 함정이다.

또 하나. 정규형 계수 자체는 좌표 선택(고유벡터 정규화)에 따라 값이 달라진다. 불변인 것은 부호이며, 그래서 문헌은 늘 정규화 규약을 명시한 $\ell_1$ 을 함께 보고한다.

6. 실제 계산과 도구[편집]

$n$ 이 크면 손계산은 불가능하다. 표준 절차는 중심 다양체 정리와 짝으로 간다.

분기점 확정. 수치 연속법으로 평형해 가지를 추적하며 자코비안 행렬의 고유값이 허수축을 건너는 지점을 뉴턴-랩슨법으로 정밀화한다.
중심 방향 추출. 임계 고유벡터 $q$ 와 수반 고유벡터 $p$ 를 구하고 $\langle p, q\rangle = 1$ 로 정규화한다.
다중선형 형식 평가. 벡터장의 2차·3차 미분 $B(q,q)$ , $C(q,q,\bar q)$ 를 자동미분이나 유한차분으로 계산한다.
중심 다양체 위로 축약 + 정규형 계수 조립. 이 단계에서 나오는 선형계는 임계 고유값 때문에 특이하므로, 실무 코드는 테두리 선형계(bordered system)로 풀어 조건수를 지킨다.³

MatCont는 이 절차를 자동으로 돌려 각 분기점의 정규형 계수를 뱉어주고, AUTO-07p와 COCO도 비슷한 기능을 갖고 있다. 대규모 이산화계(CFD 격자 위 정상해 등)에서는 야코비안 전체를 못 만드므로, 아놀디 알고리즘으로 임계 고유쌍만 뽑고 다중선형 형식은 행렬-벡터 곱으로만 다루는 행렬 자유 구현으로 바뀐다.

7. 한계와 인접 이론[편집]

국소성. 정규형은 어디까지나 평형점 근방의 이야기다. 호모클리닉 궤도처럼 대역적으로 뻗은 구조는 정규형이 알려주지 않는다.
발산. 앞서 말했듯 정규형 급수는 일반적으로 수렴하지 않는다. “차수를 올릴수록 좋아진다”가 성립하지 않는 구간이 있으므로, 유한 차수에서 멈추고 남은 항을 오차로 보는 것이 정직하다.
인접 기법. 다중 스케일 전개나 평균화법이 얻는 진폭 방정식은 대개 정규형과 같은 결과를 다른 언어로 유도한 것이다. 리 변환으로 정규화를 조직하는 방식은 리 군의 언어를 그대로 쓰며, 해밀토니안계의 버코프 정규형은 KAM 정리·표준 사상 계열 논의로 이어진다.

정규형은 결국 불변량을 세는 도구다. “이 계는 어떤 종류의 분기를 겪는가”라는 질문에, 좌표와 무관하게 답할 수 있는 최소 정보만 남기는 것 — 그게 이 이론이 하는 일 전부다.⁴

8. 관련 문서[편집]

이 순차 구조 때문에 정규형 계산은 컴퓨터 대수(symbolic algebra)와 궁합이 좋다. 3차원 4차 정규형쯤 되면 $\mathcal H_k$ 의 차원이 수십을 넘어가므로, 손으로 하겠다는 결심은 대체로 3차에서 꺾인다. ↩
작은 분모 문제는 “분모가 0이면 못 지운다”가 아니라 “분모가 0이 아닌데도 못 지울 수 있다”는 더 나쁜 소식이다. 공명이 아예 없어야 안전한 게 아니라, 공명에 얼마나 가까운지를 정량적으로 통제해야 한다. ↩
임계 고유값이 정확히 허수축 위에 있으니 풀어야 할 선형계는 정의상 특이하다. 그냥 LU로 밀어 넣으면 답이 나오긴 하는데 그 답은 대개 쓰레기다. 테두리를 둘러 정칙화하는 것은 호장법에서 극한점을 넘길 때 쓰는 것과 같은 요령이다. ↩
그래서 정규형 이론의 결과물은 늘 허무할 정도로 짧다. 수백 줄짜리 우변을 몇 주 갈아 넣어 얻은 결론이 ” $\ell_1 < 0$ , 초임계” 한 줄인 경우가 흔하다. 그런데 그 한 줄이 시제품을 태워 먹을지 말지를 가른다. ↩