비정규 행렬

편집 역사 토론
수치해석 계산물리 마지막 수정: 2026-08-05 04:33:58

1. 개요[편집]

비정규 행렬
Non-normal Matrix
정의A*A ≠ AA*
기하학적 특징고유벡터가 서로 직교하지 않음
핵심 병증안정한 스펙트럼인데도 과도 성장이 일어남
진단 도구의사스펙트럼, 수치 반경, 크라이스 상수
표준 수치 도구슈어 분해 (고유분해 아님)

비정규 행렬(non-normal matrix)은 자기 켤레전치와 교환하지 않는 행렬, 즉 A∗A≠AA∗A^{*}A \neq AA^{*}인 행렬이다. 반대로 A∗A=AA∗A^{*}A = AA^{*}를 만족하는 정규 행렬은 스펙트럼 정리에 의해 유니터리 행렬로 대각화되며, 대칭·에르미트·반대칭·유니터리 행렬이 전부 여기에 속한다. 정규 행렬의 고유벡터는 직교 기저를 이루므로 “고유값만 보면 모든 게 끝난다”는 학부 선형대수의 세계관이 성립한다.

문제는 현실 공학에서 나오는 행렬은 대부분 정규가 아니라는 것이다. 상류 차분으로 이산화한 이류 연산자, 전단 유동의 선형화 연산자, 비대칭 강성-감쇠 연성이 있는 구조 시스템, 마르코프 연쇄의 전이행렬 — 전부 비정규다. 그리고 비정규 행렬에서는 고유값이 시스템 거동을 지배한다는 직관이 틀린다. 이 문서는 그 “틀림”의 정체와 그것을 정량화하는 도구를 다룬다.

2. 고유벡터가 직교하지 않으면 생기는 일[편집]

AA가 대각화 가능하면 A=VΛV−1A = V\Lambda V^{-1}로 쓸 수 있다. 정규 행렬에서는 VV가 유니터리라 조건수 κ(V)=1\kappa(V) = 1이지만, 비정규 행렬에서는 고유벡터들이 서로 거의 평행해질 수 있어 κ(V)\kappa(V)가 10610^6, 101210^{12}까지 치솟는다. 극단으로 가면 고유벡터 개수가 차원보다 적어지는 결손 행렬(defective matrix)이 되고, 대각화 자체가 불가능해져 조르당 표준형의 블록이 등장한다.

이 κ(V)\kappa(V)가 모든 병증의 증폭 계수 노릇을 한다. 바우어-파이크(Bauer–Fike) 정리가 그 대표다. AA가 대각화 가능할 때 섭동 A+EA + E의 임의의 고유값 μ\mu에 대해

min⁡i∣μ−λi∣≤κ(V) ∥E∥\min_{i} |\mu - \lambda_i| \le \kappa(V)\,\|E\|

가 성립한다. 즉 고유값의 섭동 민감도는 κ(V)\kappa(V)배로 증폭된다. 정규 행렬이면 κ(V)=1\kappa(V)=1이라 고유값이 완벽하게 잘 조건화되지만(에르미트 행렬의 고유값이 그렇게 믿음직한 이유), 비정규 행렬에서는 기계 정밀도 수준의 반올림 오차가 고유값을 눈에 띄게 흔들어놓는다.1

3. 고유값만 보면 안 되는 이유 — 과도 성장[편집]

선형 시스템 x˙=Ax\dot{x} = Ax의 해는 x(t)=eAtx(0)x(t) = e^{At}x(0)이다. 모든 고유값이 Re λi<0\mathrm{Re}\,\lambda_i < 0이면 t→∞t \to \infty에서 ∥x∥→0\|x\| \to 0, 즉 점근 안정이다. 여기까지는 비정규든 아니든 똑같다.

하지만 가는 길이 다르다. 대각화 표현을 노름으로 감싸면

∥eAt∥≤κ(V) eα(A)t,α(A)=max⁡iRe λi\|e^{At}\| \le \kappa(V)\, e^{\alpha(A) t}, \qquad \alpha(A) = \max_i \mathrm{Re}\,\lambda_i

로, 지수 감쇠 앞에 κ(V)\kappa(V)라는 상수가 붙는다. 정규 행렬에서는 이 상수가 1이라 ∥eAt∥\|e^{At}\|가 처음부터 단조 감소하지만, 비정규 행렬에서는 상수가 거대해서 초기에 수십~수천 배로 부풀었다가 나중에 감쇠하는 궤적이 가능하다. 이것이 과도 성장(transient growth)이다.

초기 기울기는 고유값이 아니라 수치 여유(numerical abscissa)가 정한다.

ddt∥eAt∥∣t=0+=ω(A)=λmax⁡ ⁣(12(A+A∗))\left.\frac{\mathrm{d}}{\mathrm{d}t}\|e^{At}\|\right|_{t=0^{+}} = \omega(A) = \lambda_{\max}\!\left(\tfrac{1}{2}(A + A^{*})\right)

ω(A)\omega(A)는 수치 범위(field of values) W(A)={x∗Ax:∥x∥=1}W(A) = \{x^{*}Ax : \|x\|=1\}의 실부 최댓값이며, ω(A)>0>α(A)\omega(A) > 0 > \alpha(A)인 순간 과도 성장은 보장된다. 스펙트럼은 음수인데 대칭부는 양수인 이 어긋남이 비정규성의 실체다.2

4. 정량화 — 의사스펙트럼과 크라이스 상수[편집]

과도 성장의 크기를 예측하려면 스펙트럼 대신 의사스펙트럼을 봐야 한다.

Λε(A)={z∈C:∥(zI−A)−1∥≥ε−1}\Lambda_{\varepsilon}(A) = \left\{ z \in \mathbb{C} : \|(zI - A)^{-1}\| \ge \varepsilon^{-1} \right\}

정규 행렬에서는 Λε\Lambda_\varepsilon이 고유값 주변 반지름 ε\varepsilon 원판일 뿐이지만, 비정규 행렬에서는 훨씬 크게 번져 우반평면까지 침범한다. 이때 ε\varepsilon-의사스펙트럼 여유 αε(A)\alpha_\varepsilon(A)를 쓰면 하한

sup⁡t≥0∥eAt∥≥αε(A)ε\sup_{t \ge 0} \|e^{At}\| \ge \frac{\alpha_{\varepsilon}(A)}{\varepsilon}

를 얻는다. 이 하한을 ε\varepsilon에 대해 최적화한 양이 크라이스 상수다.

K(A)=sup⁡Re z>0Re(z) ∥(zI−A)−1∥\mathcal{K}(A) = \sup_{\mathrm{Re}\,z > 0} \mathrm{Re}(z)\,\|(zI - A)^{-1}\|

크라이스 행렬 정리는 N×NN \times N 행렬에 대해

K(A)  ≤  sup⁡t≥0∥eAt∥  ≤  e N K(A)\mathcal{K}(A) \;\le\; \sup_{t \ge 0} \|e^{At}\| \;\le\; e\,N\,\mathcal{K}(A)

를 준다. 하한은 차원과 무관하게 날카롭고, 상한에는 차원 NN이 붙는다 — 대형 이산화 행렬에서는 상한이 사실상 무용지물이라는 뜻이라, 실무에서는 하한 쪽과 직접 계산한 sup⁡t∥eAt∥\sup_t\|e^{At}\|를 함께 본다.3 관련해서 리아푸노프 방정식 A∗P+PA=−IA^{*}P + PA = -I의 해 PP의 조건수도 같은 정보를 담고 있다. PP가 심하게 비등방적이면(= κ(P)\kappa(P)가 크면) 그 자체가 비정규성의 지표다.

5. 유체역학 — 아임계 천이의 범인[편집]

비정규성이 공학적으로 가장 유명하게 터진 곳이 유체 안정성이다. 평면 푸아죄유 유동의 오어-조머펠트 방정식을 이산화하면 강하게 비정규인 연산자가 나온다. 고유값 해석은 임계 레이놀즈수 Rec≈5772Re_c \approx 5772를 예측하지만, 실험에서는 Re∼1000Re \sim 1000 부근에서 이미 난류 천이가 일어난다. 쿠에트 유동은 더 심해서 모든 ReRe에서 선형 안정인데도 현실에서는 멀쩡히 난류가 된다.

해답이 과도 성장이었다. 오어-조머펠트/스콰이어 연산자의 비정규성 때문에 에너지 증폭률이 O(Re2)O(Re^2)까지 올라가고, 특히 유선방향 소용돌이가 저속 스트리크를 만드는 리프트업 메커니즘이 이 증폭의 주역이다. 선형적으로는 결국 감쇠하지만, 그 전에 진폭이 충분히 커지면 비선형 항이 개입해 다른 상태로 넘어간다. “선형 안정 = 실제 안정”이 아니라는 반례로 교과서마다 실린다.4

6. 수치해석에서의 파장[편집]

  • 크리로프 부분공간법의 수렴 예측이 무너진다. 대칭 양정치 행렬의 CG는 고유값 분포만으로 수렴 상한이 나오지만, 비정규 행렬의 GMRES는 그렇지 않다. 그린바움-프탁-스트라코시의 결과에 따르면, 임의로 지정한 스펙트럼과 임의로 지정한 (비증가) 수렴 곡선을 동시에 만족하는 행렬이 존재한다. 즉 스펙트럼은 GMRES 수렴에 대해 사실상 아무 정보도 주지 못한다. 전처리기를 “고유값을 1 주변에 모으는 것”으로만 설명하면 비정규 문제에서 헛다리를 짚는 이유다.
  • 슈어 분해가 표준인 이유. A=QTQ∗A = QTQ^{*}(QQ 유니터리, TT 상삼각)는 결손 여부와 무관하게 항상 존재하고, 유니터리 변환만 쓰므로 후진 오차 해석 관점에서 안정하다. 반면 고유분해 VΛV−1V\Lambda V^{-1}은 κ(V)\kappa(V)가 크면 계산 자체가 병적이다. LAPACK의 비대칭 고유값 루틴이 QR 반복으로 슈어 형태를 먼저 만드는 것은 우연이 아니다.
  • 특이값 분해는 비정규성에 무감하다. 특이값은 A∗AA^{*}A의 고유값 제곱근이라 항상 잘 조건화된다. σmin⁡\sigma_{\min}과 ∣λmin⁡∣|\lambda_{\min}|의 격차 자체가 비정규성의 좋은 지표이기도 하다.

7. 여담[편집]

  • 비정규 행렬의 존재를 모르고 고유값 문제만 풀어놓고 “안정합니다”라고 보고했다가 실측에서 진동이 터지는 것은 제어·유체·구조 어디서나 반복되는 사고 유형이다. 스펙트럼은 t→∞t \to \infty의 이야기지, 관심 있는 유한 시간의 이야기가 아니다.
  • 2×2 예제 하나면 감이 온다.
A=(−1M0−2)A = \begin{pmatrix} -1 & M \\ 0 & -2 \end{pmatrix}

이 행렬은 고유값이 −1-1, −2-2로 얌전하지만 MM이 커질수록 ∥eAt∥\|e^{At}\|의 최댓값이 대략 MM에 비례해 커진다. 상삼각 성분 MM은 고유값에 아무 영향도 주지 않는다 — 고유값은 MM을 아예 못 본다.

  • 트레페텐과 엠브리의 Spectra and Pseudospectra(2005)는 이 주제의 사실상 표준 레퍼런스다. 부제가 “비정규 행렬과 연산자의 거동”인데, 책 전체가 “고유값만 보지 마라”는 한 문장의 800쪽짜리 확장판이라는 평을 듣는다.

8. 관련 문서[편집]

9. Footnotes[편집]

  1. 그래서 수치해석 코드에서 “고유값 오차가 10−310^{-3}이나 나는데요?”라는 버그 리포트의 상당수는 버그가 아니다. 행렬이 비정규라서 그 고유값이 원래 그만큼밖에 결정되지 않는 것이다. 알고리즘을 고쳐도 안 낫는다. 문제가 그렇게 생겨먹은 것. ↩

  2. 정규 행렬에서는 ω(A)=α(A)\omega(A) = \alpha(A)가 항상 성립한다. 둘의 차이 ω(A)−α(A)\omega(A) - \alpha(A)를 비정규성의 간이 척도로 쓰기도 하는데, 계산이 대칭부 최대고유값 하나라서 싸다는 게 장점이다. ↩

  3. 상한의 차원 인자 NN을 없앨 수 있느냐는 오랫동안 연구 주제였다. 결론부터 말하면 일반 행렬에 대해서는 없앨 수 없다. 100만 자유도 이산화 행렬에 eNeN을 곱한 상한은 “이 값은 10710^7배 이내입니다” 수준의 위로가 된다. ↩

  4. 이 관점을 정리한 것이 Trefethen, Trefethen, Reddy & Driscoll의 1993년 Science 논문 “Hydrodynamic Stability Without Eigenvalues”. 제목이 곧 요약이다. 유체 하는 사람과 수치선형대수 하는 사람이 서로의 존재를 발견한 사건으로도 자주 언급된다. ↩