극분해

수치해석 고체역학 마지막 수정: 2026-08-22 04:47:18

1. 개요[편집]

극분해 Polar decomposition
형태	$A = UP$ ($U$ 유니터리, $P$ 반양정 에르미트)
존재·유일	항상 존재, $P$ 는 항상 유일, $U$ 는 $A$ 가 정칙이면 유일
SVD 관계	$A = W\Sigma V^{}$ 일 때 $U = WV^{}$, $P = V\Sigma V^{*}$
최적성	임의의 유니터리 불변 노름에서 가장 가까운 유니터리 행렬
대표 계산	뉴턴 반복(스케일링), QDWH, SVD
대표 응용	강체 정합, 유한변형 $F = RU$, 공회전 FEM

복소수 $z = re^{i\theta}$ 를 행렬로 옮겨 적은 것. 회전이 $U$ , 크기가 $P$ 다.

극분해(polar decomposition)는 행렬 $A$ 를 유니터리(실수면 직교) 인수와 반양정 에르미트 인수의 곱

A = UP, \qquad U^{*}U = I, \qquad P = P^{*} \succeq 0

으로 쓰는 분해다. 스칼라에서 복소수를 크기와 위상으로 쪼개는 $z = e^{i\theta}\cdot r$ 의 행렬판이며, 이름의 “극”도 극형식에서 왔다. $P$ 는 언제나 $P = (A^{*}A)^{1/2}$ 로 유일하게 정해지고(행렬 제곱근), $U$ 는 $A$ 가 정칙일 때 유일하다. 인수 순서를 바꾼 왼쪽 극분해 $A = P'U$ 도 있고, 이때 $P' = (AA^{*})^{1/2} = UPU^{*}$ 다.

특이값 분해의 사촌이지만 쓰임새가 확실히 다르다. SVD가 “이 행렬에서 중요한 방향이 무엇인가”를 묻는다면, 극분해는 “이 행렬에서 순수한 회전만 뽑아내면 무엇인가” 를 묻는다. 그래서 극분해는 수치선형대수보다 오히려 연속체역학·컴퓨터 그래픽스·구조생물학에서 더 자주 얼굴을 내민다. 변형 구배에서 강체 회전을 걷어내는 일, 두 분자 구조를 겹치는 일, 스키닝 행렬에서 회전만 되찾는 일이 전부 같은 분해 하나다.

2. SVD와의 관계[편집]

특이값 분해 $A = W\Sigma V^{*}$ 를 대입하면 극분해가 한 줄에 나온다.

A = W\Sigma V^{*} = \underbrace{(WV^{*})}_{U}\underbrace{(V\Sigma V^{*})}_{P}

$WV^{*}$ 는 유니터리의 곱이라 유니터리이고, $V\Sigma V^{*}$ 는 음이 아닌 특이값을 고유값으로 갖는 에르미트 행렬이라 반양정이다. 거꾸로 극분해에서 $P$ 를 고유분해하면 SVD가 복원된다. 두 분해는 수학적으로 동치이며, 차이는 오로지 “특이값을 명시적으로 볼 것인가”에 있다.

기하학적으로도 재배열이다. SVD가 “회전 → 축 스케일링 → 회전”이라면 극분해는 “먼저 원래 축에서 늘이고, 그다음 통째로 돌린다” 이며, $P$ 의 고유벡터가 늘이는 주축, 고유값이 늘임 비율, $U$ 가 그 뒤에 붙는 순수 회전이다.

$U$ 는 행렬 부호 함수와도 직결된다. 정칙 $A$ 에 대해 $\mathrm{sign}\big(\left[\begin{smallmatrix} 0 & A \\ A^{*} & 0\end{smallmatrix}\right]\big) = \left[\begin{smallmatrix} 0 & U \\ U^{*} & 0\end{smallmatrix}\right]$ 이므로, 부호 함수용 반복법이 그대로 극분해용 반복법이 된다. 아래 뉴턴 반복이 부호 함수의 뉴턴 반복과 판박이인 것이 우연이 아니다.

3. 가장 가까운 직교행렬 — 그리고 det 함정[편집]

극분해가 응용에서 압도적인 이유는 하나의 최적성 정리다. $U$ 는 $A$ 에 가장 가까운 유니터리 행렬이다.

\|A - U\|_{F} = \min_{Q^{*}Q = I}\|A - Q\|_{F}

증명은 세 줄이다. $\|A-Q\|_F^2 = \|A\|_F^2 + n - 2\,\mathrm{Re}\,\mathrm{tr}(Q^{*}A)$ 이므로 $\mathrm{tr}(Q^{*}A)$ 를 최대화하면 되고, $A = W\Sigma V^{*}$ 를 넣으면 $\mathrm{tr}(Q^{*}W\Sigma V^{*}) = \mathrm{tr}(Z\Sigma) = \sum_i z_{ii}\sigma_i$ 인데( $Z = V^{*}Q^{*}W$ 는 유니터리라 $|z_{ii}| \le 1$ ), 최댓값 $\sum_i \sigma_i$ 는 $Z = I$ , 즉 $Q = WV^{*} = U$ 에서 달성된다. 게다가 이 최적성은 프로베니우스 노름만의 성질이 아니라 임의의 유니터리 불변 노름에서 성립한다(팬-호프만, 1955).¹

여기서 아주 중요한 단서가 붙는데, 실무에서 이 함정에 빠지는 사람이 끊이지 않는다. 위 최소화는 행렬식 제약이 없는 직교군 $O(n)$ 전체 위에서의 최적화다. 그런데 응용에서 원하는 것은 대개 회전, 즉 $\det R = +1$ 인 $SO(n)$ 위의 최적해다. 두 답은 $\det A < 0$ 일 때 갈라진다.

$\det A < 0$ 이면 극분해의 $U$ 는 $\det U = -1$ , 즉 반사가 섞인 부적절 직교행렬이다. 이걸 그대로 회전으로 쓰면 물체가 뒤집힌다. $SO(n)$ 위의 정답은 SVD를 거쳐 가장 작은 특이값에 대응하는 특이벡터의 부호를 뒤집는 보정으로 얻는다.

R = W D V^{\mathsf T}, \qquad D = \mathrm{diag}\big(1,\dots,1,\ \det(WV^{\mathsf T})\big)

가장 작은 $\sigma_n$ 자리를 뒤집는 이유는 $\mathrm{tr}(R^{\mathsf T}A) = \sum_{i<n}\sigma_i - \sigma_n$ 에서 손실이 최소가 되기 때문이다. 이것이 주성분 분석 계열 정합 코드에서 흔히 보이는 “마지막 열에 $\det$ 를 곱하는 한 줄”의 정체이고, 카브슈(Kabsch) 정합 알고리즘의 필수 보정이다.² 정리하면 극분해의 $U$ 는 가장 가까운 직교행렬이지 가장 가까운 회전행렬이 아니다. 물리적으로 $\det A > 0$ 이 보장되는 경우(예: 뒤집히지 않은 요소의 변형 구배)에는 둘이 일치하므로 신경 쓸 필요가 없고, 그 보장이 없는 곳(잡음 섞인 점군 정합, 뒤집힌 유한요소)에서만 문제가 된다.

4. 계산 — 뉴턴 반복과 QDWH[편집]

SVD를 계산해 $U = WV^{*}$ 로 얻는 것이 가장 곧은 길이고, $3\times3$ 처럼 작은 행렬에서는 이 방식이 지배적이다. 하지만 큰 행렬에서는 SVD 없이 $U$ 만 직접 구하는 반복이 더 싸다.

뉴턴 반복은 $X^{*}X = I$ 에 뉴턴법을 적용한 것으로

X_{k+1} = \tfrac{1}{2}\left(X_k + X_k^{-*}\right), \qquad X_0 = A

이며 정칙 $A$ 에 대해 $U$ 로 2차 수렴한다. 실행렬이면 $X_k^{-*}$ 는 그냥 $X_k^{-\mathsf T}$ 다. 특이값 관점에서 보면 각 $\sigma_i$ 가 $\tfrac{1}{2}(\sigma + 1/\sigma)$ 로 갱신되어 전부 1로 몰리는 스칼라 뉴턴법이고, 이 시각이 왜 스케일링이 필요한지도 설명한다 — $\sigma$ 가 1에서 멀면 초기 몇 스텝이 2차가 아니라 사실상 선형처럼 기어가서, 조건수가 큰 행렬에서 반복 수가 수십 회로 부푼다.

그래서 실무 판은 스케일링된 뉴턴 반복을 쓴다.

X_{k+1} = \tfrac{1}{2}\left(\mu_k X_k + \mu_k^{-1} X_k^{-*}\right)

$\mu_k$ 를 특이값 분포의 기하평균 근처로 잡으면(하이엄이 1986년에 제안한 $1$ -노름· $\infty$ -노름 추정 기반 스케일링이 표준) 초기 구간이 압축되어 배정밀도에서 대개 열 번 이내에 끝난다. 역행렬을 피하고 싶으면 행렬곱만으로 굴러가는 뉴턴-슐츠 변형 $X_{k+1} = \tfrac{1}{2}X_k(3I - X_k^{*}X_k)$ 를 쓰지만, $\|I - A^{*}A\|_2 < 1$ 이라는 수렴 조건이 붙어 앞부분은 뉴턴으로 밀고 뒤에서 갈아타는 하이브리드가 관행이다.

현대의 정답에 가까운 것은 QDWH(QR-based dynamically weighted Halley, 나카츠카사·바이·기기 2010)다. 핼리형 유리반복을 역행렬 대신 QR 분해 두 번으로 구현해, 배정밀도에서 조건수가 $10^{16}$ 이하이면 여섯 번 이내에 수렴하고 후진 안정성도 증명돼 있다. 역행렬을 QR로 바꾸는 것이 통신량을 줄이는 상투적 수법이라 통신 회피 알고리즘 계열과 궁합이 좋고, 나카츠카사·하이엄은 이를 행렬 부호 함수와 묶어 GPU에서 잘 도는 스펙트럼 분할 정복 고유값·SVD 해법까지 만들었다.

5. 강체 정합 — 카브슈와 프로크루스테스[편집]

대응이 이미 알려진 두 점군 $\{p_i\}, \{q_i\}$ 를 겹치는 문제, 즉

\min_{R \in SO(3),\ \mathbf{t}} \sum_i m_i \left\|R\,p_i + \mathbf{t} - q_i\right\|^2

는 극분해의 교과서적 응용이다. 평행이동은 양쪽 무게중심을 맞추면 사라지고, 남는 것은 상관행렬 $H = \sum_i m_i\, p_i q_i^{\mathsf T}$ 에 대한 $\max_R \mathrm{tr}(R^{\mathsf T}H)$ — 정확히 위의 최적화다. 답은 $H$ 의 극분해 인수이며, $\det$ 보정을 붙이면 회전이 된다.

같은 문제가 분야마다 다른 이름을 달고 있다. 통계에서는 직교 프로크루스테스 문제(쇠네만 1966), 구조생물학에서는 카브슈 알고리즘(1976)과 RMSD 계산, 항법·위성 자세결정에서는 와바 문제(1965)다. 우메야마(1991)는 여기에 균일 스케일까지 얹은 상사변환 판을 정리하면서 반사 보정을 명시적으로 다뤘다. 반복 최근접점(ICP)은 대응이 미지일 때 “최근접점으로 대응 추정 → 극분해로 회전 갱신”을 번갈아 도는 것이므로, 매 반복의 알맹이가 결국 이 한 줄이다.

6. 유한변형 운동학 — $F = RU$ [편집]

연속체역학에서 변형 구배 $\mathbf{F} = \partial\mathbf{x}/\partial\mathbf{X}$ 의 극분해는 운동학의 정의 그 자체다.

\mathbf{F} = \mathbf{R}\,\mathbf{U} = \mathbf{V}\,\mathbf{R}

여기서 $\mathbf{R}$ 은 회전, $\mathbf{U} = (\mathbf{F}^{\mathsf T}\mathbf{F})^{1/2} = \mathbf{C}^{1/2}$ 는 오른쪽 늘임 텐서(오른쪽 코시-그린 텐서 $\mathbf{C}$ 의 제곱근), $\mathbf{V} = (\mathbf{F}\mathbf{F}^{\mathsf T})^{1/2} = \mathbf{R}\mathbf{U}\mathbf{R}^{\mathsf T}$ 는 왼쪽 늘임 텐서다.³ 읽는 법은 이렇다 — 물질점 주변의 국소 변형은 기준 배치에서 주축을 따라 $\lambda_i$ 배 늘인 다음 강체 회전시킨 것이고, $\mathbf{U}$ 의 고유값이 주신장 $\lambda_i$ , 고유벡터가 라그랑주 주축이다.

이 분해가 중요한 이유는 물질 객관성(objectivity) 때문이다. 재료는 강체 회전에 반응하면 안 되므로 구성방정식은 $\mathbf{F}$ 가 아니라 회전을 걷어낸 양의 함수여야 하고, 그래서 $\mathbf{C} = \mathbf{U}^2$ 나 그 불변량이 초탄성 재료 모델의 인자로 쓰인다. 로그 변형률(헨키 변형률) $\ln\mathbf{U} = \sum_i (\ln\lambda_i)\,\mathbf{N}_i \otimes \mathbf{N}_i$ 도 극분해 없이는 정의되지 않는다. 물리적으로 허용되는 변형은 $J = \det\mathbf{F} > 0$ 이므로 $\det\mathbf{R} = +1$ 이 자동으로 보장된다 — 앞 절의 det 함정이 여기서는 걱정거리가 아니다.

역으로 $\det\mathbf{F} \le 0$ 이 나오는 순간이 요소가 뒤집힌(inverted) 순간이고, 이때는 극분해가 반사를 내놓아 시뮬레이션이 폭발한다. 어빙·테란·페드키우(2004)의 가역 유한요소는 여기서 특이값 하나에 음수를 허용하는 방식으로 뒤집힌 요소를 부드럽게 되돌린다. “뒤집힘을 어떻게 다룰 것인가”가 곧 “부호 보정을 어디에 넣을 것인가” 인 셈이다.

7. 그래픽스 — 회전 추출이 곧 물리다[편집]

실시간 물리에서 극분해는 성능 병목이자 품질의 핵심이다.

공회전 유한요소법(corotational FEM, 뮐러·그로스 2004): 선형 탄성은 큰 회전에서 부피를 부풀리는 치명적 결함이 있다. 요소마다 $\mathbf{F}$ 의 극분해로 $\mathbf{R}$ 을 뽑아 회전을 걷어낸 좌표계에서 선형 강성을 쓰면, 선형 모델의 값싼 비용으로 큰 회전을 견딘다. 유한요소법 기반 실시간 연체 시뮬레이션의 사실상 표준.
형상 정합(shape matching, 뮐러 외 2005): 입자 구름을 기준 형상에 최소자승으로 맞추는 최적 강체 변환을 매 스텝 극분해로 구하고, 그 목표 위치로 입자를 끌어당긴다. 강체와 연체 사이를 매끄럽게 오가는 위치 기반 동역학 계열의 뼈대다.
ARAP 변형(소르킨·알렉사 2007): 메시의 각 셀에서 “가능한 한 강체에 가까운” 국소 변형을 찾는데, 그 국소 최적해가 셀 공분산 행렬의 극분해다. 회전 추출과 선형계 풀이를 번갈아 도는 국소-전역 반복이 알고리즘 전체다.
스키닝: 스켈레탈 애니메이션의 선형 블렌드 스키닝은 회전행렬을 성분별로 섞기 때문에 직교성을 잃고 관절이 쭈그러든다(candy-wrapper). 섞은 행렬에서 극분해로 회전을 되찾으면 이 붕괴가 상당 부분 복구되며, 사원수 기반 블렌딩과 경쟁하는 노선이다.
회전 재정규화: 오래 적분한 회전행렬은 반올림 누적으로 직교성이 드리프트한다. 그람-슈미트는 첫 축에 특권을 주고 나머지가 오차를 뒤집어쓰는 반면, 극분해는 세 축을 대칭적으로 다루며 가장 가까운 회전을 준다.

실시간 코드는 $3\times3$ 극분해를 초당 수십만 번 부르므로, 전용 최적화가 따로 발달했다. 사원수를 미지수로 두고 이전 프레임 결과에서 워밍 스타트해 몇 번의 자코비형 갱신만 돌리는 방식(뮐러 외 2016)이 대표적인데, SVD를 매 프레임 새로 푸는 것보다 훨씬 싸고 프레임 간 회전의 연속성까지 얻는다.

8. 여담[편집]

표기 충돌 주의. 수치선형대수에서 $U$ 는 극분해의 유니터리 인수인데, 연속체역학에서 $\mathbf{U}$ 는 그 반대쪽인 오른쪽 늘임 텐서다. $\mathbf{F} = \mathbf{R}\mathbf{U}$ 와 $A = UP$ 를 나란히 놓고 보면 $\mathbf{R} \leftrightarrow U$ , $\mathbf{U} \leftrightarrow P$ 로 정확히 어긋나 있다. 두 분야 논문을 같은 날 읽으면 반드시 한 번은 헷갈린다.
양자화학의 뢰딘 대칭 직교화 $S^{-1/2}$ 도 정체가 극분해다. 겹침행렬 $S$ 를 가진 기저를 직교화하되 원래 기저에서 최소자승 의미로 가장 덜 움직이는 직교기저를 고르는 것이라, 특정 궤도를 우선하지 않는다는 점에서 그람-슈미트와 철학이 다르다. 위의 회전 재정규화와 똑같은 논리다.
극분해는 “쓰는 사람은 많은데 이름을 모르는” 분해의 대표 격이다. 게임 엔진 소스에서 extractRotation, 분자동역학 코드에서 superpose, 통계 패키지에서 procrustes 로 각각 살고 있고, 그게 다 같은 정리라는 사실은 대개 나중에 알게 된다.

9. 관련 문서[편집]

“가장 가까운 직교행렬”이 유니터리 불변 노름 전부에서 동시에 최적이라는 팬-호프만 정리는 은근히 드문 성질이다. 특이값 분해의 에카르트-영-미르스키 정리도 같은 부류인데, 두 정리 모두 최적해가 노름에 의존하지 않는다는 점에서 “특이값을 건드리는 방식으로만 근사한다”는 공통 구조를 갖는다. ↩
카브슈의 1976년 원논문은 이 반사 경우를 놓쳤고, 1978년에 본인이 정오표를 따로 냈다. 그 2년 사이에 구현된 코드들이 가끔 거울상 구조를 뱉었다는 이야기가 전해진다. 지금도 정합 라이브러리 버그 리포트의 단골 유형이 “가끔 분자가 뒤집혀 나와요”다. ↩
$\mathbf{U}$ 와 $\mathbf{V}$ 는 같은 고유값(주신장)을 갖고 고유벡터만 $\mathbf{R}$ 만큼 돌아가 있다. 즉 늘임의 크기는 기준 배치에서 보든 현재 배치에서 보든 같고, 방향만 다르다. $\mathbf{F} = \mathbf{R}\mathbf{U} = \mathbf{V}\mathbf{R}$ 이라는 두 줄이 그 사실을 한꺼번에 말한다. ↩

극분해