카오스 이론

계산물리 물리 마지막 수정: 2026-07-29 04:13:38

1. 개요[편집]

결정론적인데 예측이 안 된다. 말장난 같지만 진짜다.

카오스 이론(chaos theory)은 확률이 전혀 개입하지 않는 결정론적 비선형 동역학계가 초기조건의 미세한 차이를 지수적으로 증폭시켜, 유한한 정밀도로는 장기 예측이 불가능해지는 비주기(aperiodic) 거동을 다루는 분야다. 같은 방정식에 같은 초기값을 넣으면 언제나 똑같은 궤적이 나온다는 점에서 카오스계는 100% 결정론적이다. 문제는 “같은 초기값”을 인간이 절대로 입력할 수 없다는 것.¹

카오스는 계가 복잡해서 생기는 현상이 아니다. 미지수 세 개짜리 상미분방정식(로렌츠-63)이나 미지수 하나짜리 사상(로지스틱 사상)에서도 멀쩡히 나온다. 필요 조건은 딱 두 가지 — 비선형성과 충분한 위상공간 차원(연속시간 자율계는 3차원 이상, 푸앵카레-벤딕손 정리가 2차원을 막고 있기 때문)이다.

2. 카오스의 정의 — 세 가지 조건[편집]

수학적으로 가장 널리 쓰이는 정의는 디베이니(Devaney)의 것이다. 어떤 사상 $f$ 가 불변집합 위에서 다음 세 조건을 만족하면 카오스적이라고 한다.

초기조건 민감성. 아무리 가까운 두 점도 시간이 지나면 유한한 거리만큼 벌어진다. 정량적으로는 최대 랴푸노프 지수 $\lambda > 0$ , 즉 초기 오차 $\delta_0$ 가 $\delta(t) \approx \delta_0 e^{\lambda t}$ 로 자란다.
위상적 추이성(topological transitivity). 어떤 열린 집합에서 출발한 궤도든 다른 어떤 열린 집합에도 언젠가 들어간다. 끌개를 쪼갤 수 없다는 뜻 — 궤도가 구석에 갇히지 않고 전체를 훑는다.
주기궤도의 조밀성. 불안정 주기궤도(UPO)가 끌개 안에 빽빽하게 박혀 있다. 카오스 궤적은 이 불안정 주기궤도들 사이를 영원히 튕겨 다니는 셈이다.

재미있게도 이 정의는 과잉이다. 1992년 뱅크스(Banks) 등이 조건 2와 3만으로 조건 1이 자동으로 따라온다는 것을 증명했다. 그럼에도 실무에서 카오스를 판정하는 기준은 여전히 1번, 즉 $\lambda > 0$ 이다. 나머지 둘은 수치적으로 확인하기가 훨씬 까다롭기 때문.

3. 로렌츠, 절단된 소수점, 그리고 나비[편집]

1961년 MIT의 에드워드 로렌츠는 12변수 기상 모형을 돌리다가 중간부터 다시 계산하려고 출력지에 찍힌 값을 손으로 입력했다. 내부 정밀도는 6자리인데 출력은 3자리였다 — 0.506127 대신 0.506을 넣은 것이다. 두 계산은 처음엔 붙어 있다가 몇 달치(모형 시간) 뒤에 완전히 다른 날씨가 됐다.² 이 사고는 1963년 논문 Deterministic Nonperiodic Flow로 이어졌고, 거기서 나온 3변수 축약 모형이 그 유명한 로렌츠-63이다.

\dot{x} = \sigma(y-x), \qquad \dot{y} = x(r-z) - y, \qquad \dot{z} = xy - bz

고전 파라미터 $\sigma=10$ , $r=28$ , $b=8/3$ 에서 최대 랴푸노프 지수는 $\lambda \approx 0.906$ (시간 단위 역수)이고, 궤적은 유명한 나비 날개 모양 끌개 위를 돈다. “브라질 나비의 날갯짓이 텍사스에 토네이도를 일으키는가”라는 1972년 강연 제목이 나비 효과라는 이름의 기원인데, 정작 그 제목은 로렌츠 본인이 아니라 세션 좌장이 급하게 붙인 것이다.

4. 예측 가능 시간은 로그로만 늘어난다[편집]

카오스가 공학적으로 잔인한 이유는 여기 있다. 초기 오차 $\delta_0$ 가 허용 오차 $\Delta$ 에 도달하는 시간을 예측 가능 시간 $T_p$ 라 하면

T_p \approx \frac{1}{\lambda}\ln\frac{\Delta}{\delta_0}

이다. 즉 예측 구간을 두 배로 늘리려면 초기 관측 정밀도를 $e^{\lambda T_p}$ 배, 로렌츠-63 기준으로 대략 자릿수 하나를 통째로 더 확보해야 한다. 관측망을 열 배 촘촘하게 깔아도 예보 기간은 며칠 늘어날 뿐이라는 수치기상예보의 근본적 한계가 바로 이 로그다. 배정밀도 부동소수점( $\delta_0 \sim 10^{-16}$ )으로 로렌츠-63을 적분해도 궤적이 신뢰 가능한 구간은 40 시간 단위 남짓이다.

그래서 현대 예보는 하나의 궤적을 믿는 대신 앙상블 예보로 확률분포를 추정하고, 자료동화로 관측을 계속 밀어 넣어 오차 성장을 주기적으로 리셋한다. 카오스를 이기는 게 아니라 계속 얻어맞으면서 버티는 전략이다.

5. 카오스로 가는 경로[편집]

정상해에서 카오스까지는 몇 가지 정형화된 분기 시나리오가 있다.

주기배가 경로(Feigenbaum). 주기 1 → 2 → 4 → 8 → … 로 주기가 배로 늘어나며 분기점 간격이 기하급수적으로 줄어든다. 그 비율이 계의 세부 사항과 무관한 보편 상수 $\delta \approx 4.6692016$ 이고, 진폭 방향 스케일 인자는 $\alpha \approx 2.5029079$ 다. 로지스틱 사상에서는 $r_\infty \approx 3.5699$ 에서 축적이 끝나고 카오스가 시작된다.
준주기 경로(Ruelle–Takens). 호프 분기가 연달아 일어나 진동수 두세 개가 얹히고, 세 번째 진동수가 붙기 전에 토러스가 깨지면서 곧장 이상한 끌개가 나타난다. 란다우가 상상했던 “무한히 많은 진동수의 중첩 = 난류”라는 그림을 반박한 시나리오다.
간헐성 경로(Pomeau–Manneville). 규칙적인 층류 구간 사이에 카오스 폭발이 불규칙하게 끼어들고, 파라미터를 밀수록 폭발 빈도가 늘어난다. 안장-마디 분기와 얽힌 I형이 가장 흔하다. 간헐성 문서 참고.

6. 이상한 끌개와 위상공간 진단[편집]

카오스 궤적이 수렴하는 집합을 이상한 끌개(strange attractor)라 한다. 부피는 0인데(소산계라 위상공간 부피가 줄어든다) 그 위의 궤적은 절대 반복되지 않고, 단면을 확대하면 칸토어 집합 같은 층상 구조가 끝없이 나온다 — 즉 프랙탈이다. 로렌츠 끌개의 캐플런-요크 차원은 약 2.06으로, 면도 아니고 부피도 아닌 어중간한 값이다.

진단 도구는 크게 셋이다.

푸앵카레 단면. 연속 흐름을 초평면과의 교점만 찍어 이산 사상으로 바꾼다. 주기궤도는 점 몇 개, 준주기는 닫힌 곡선, 카오스는 프랙탈 점구름으로 나타난다.
랴푸노프 스펙트럼. 그람-슈미트 재직교화를 곁들인 접선공간 적분으로 $\lambda_1 \ge \lambda_2 \ge \dots$ 를 뽑는다. 자율 흐름은 반드시 $\lambda=0$ 인 방향(흐름 방향)을 하나 갖는다.
지연 좌표 임베딩. 관측 시계열 하나만 있어도 $(s_t, s_{t-\tau}, \dots)$ 로 위상공간을 재구성할 수 있다(타켄스 정리). 실험 데이터에서 끌개 차원을 추정하는 표준 절차.

7. 어디서 만나는가[편집]

기상·기후. 로렌츠-63의 고향이다. 대류를 세 모드로 자른 장난감 모형이지만, 대기 예측성의 한계라는 결론은 실제 원시방정식 모형에서도 그대로 살아남았다. 현업 예보 모형의 오차 배증 시간은 대략 1.5일 규모이며, 결정론적 예보의 유용 한계가 2주 언저리로 이야기되는 근거가 여기 있다.
난류. 낮은 레이놀즈수 영역의 층류-난류 천이는 분기와 카오스의 언어로 상당 부분 기술된다. 다만 완전 발달 난류는 자유도가 사실상 무한대인 시공간 카오스라, 저차원 끌개 이야기가 그대로 적용되지는 않는다.
인구 동역학. 로버트 메이가 1976년 Nature에 쓴 논문 Simple mathematical models with very complicated dynamics가 이 분야의 폭발을 촉발했다. 로지스틱 사상 $x_{n+1} = r x_n (1-x_n)$ 하나로 안정 개체수 → 2년 주기 진동 → 카오스가 전부 나온다. $r=4$ 에서는 랴푸노프 지수가 정확히 $\ln 2$ 다.
그 외. 화학 반응조(BZ 반응), 심장 부정맥, 레이저 출력, 이중진자와 3체 문제, 비선형 회로. 진동수 하나로 안 끝나는 비선형계라면 어디든 후보다.

8. 수치 궤적을 구제하는 그림자 정리, 그리고 카오스 제어[편집]

여기서 당연한 의문이 든다. 오차가 지수적으로 자란다면 카오스계의 수치해는 전부 쓰레기 아닌가? 답은 “궤적으로서는 그렇고, 통계로서는 아니다”이다. 그림자 정리(shadowing lemma)는 쌍곡성이 있는 계에서 수치적으로 계산된 유사궤도(pseudo-orbit) 근처에 정확한 참 궤도가 실제로 존재함을 보장한다. 내가 계산한 궤적은 내가 넣은 초기조건의 답은 아니지만, 아주 가까운 어떤 초기조건의 진짜 답이라는 뜻. 그래서 끌개의 모양, 차원, 랴푸노프 지수, 장기 평균 같은 통계량은 신뢰할 수 있다.³

카오스는 통제도 가능하다. 1990년 오트·그레보기·요크가 제안한 OGY 제어는 끌개 안에 조밀하게 박혀 있는 불안정 주기궤도를 골라, 궤적이 그 근방에 올 때마다 파라미터를 아주 조금 흔들어 안정 다양체 위로 밀어 넣는다. 카오스의 두 성질(민감성 + 주기궤도 조밀성)을 오히려 자원으로 쓰는 발상이라, 제어 입력이 놀랄 만큼 작다.

마지막으로 자주 헷갈리는 구분 하나. 카오스는 잡음이 아니다. 확률 과정은 상태공간을 채우지만 결정론적 카오스는 낮은 차원의 끌개 위에만 산다. 시계열만 보면 둘 다 불규칙해 보여도, 지연 임베딩 후 상관 차원이 유한한 값으로 포화하면 카오스, 임베딩 차원을 올릴 때마다 같이 올라가면 잡음일 가능성이 높다.⁴ 이 판별은 실무에서 생각보다 까다로워서, 유색 잡음을 카오스로 오판한 1980~90년대 논문이 꽤 있다.

9. 관련 문서[편집]

실수는 무한 자릿수인데 컴퓨터도 관측 장비도 유한 자릿수다. 카오스계에서는 이 “어차피 무시해도 되는 뒷자리”가 유한 시간 안에 앞자리로 올라온다. 반올림 오차가 지수 증폭기를 만난 셈. ↩
로렌츠 본인의 회고에 따르면 처음엔 진공관이 고장 난 줄 알았다고 한다. 하드웨어를 의심하는 것이 엔지니어의 본능이지만, 이번만큼은 하드웨어가 억울했다. ↩
다만 로렌츠계처럼 균등 쌍곡성이 없는 계에서는 그림자 궤도가 유한 시간 동안만 존재한다. 해멀·요크·그레보기가 에농 사상에서 수치적으로 확인한 그림자 구간은 수천 스텝 규모였다. “영원히 괜찮다”는 보장은 어디에도 없다는 뜻. ↩
상관 차원 추정에는 표본 수가 차원의 지수로 필요하다. 데이터 1000점으로 차원 6짜리 끌개를 논하는 건 통계적으로 무리다. 그래서 이 바닥에는 서로게이트 데이터 검정이라는 별도의 위생 절차가 있다. ↩