스메일 말굽

계산물리 물리 마지막 수정: 2026-08-10 04:49:44

1. 개요[편집]

스메일 말굽 Smale horseshoe
제안	Stephen Smale, 1960년대 초
기하	늘리고 → 접고 → 되넣기
불변집합	Λ = 칸토어 집합 × 칸토어 집합
동역학	두 기호 양방향 이동사상과 위상 공액
위상 엔트로피	ln 2
성격	끌개가 아닌 카오스 안장 (측도 0)
강건성	균등 쌍곡 → 구조적으로 안정

스메일 말굽(Smale horseshoe)은 정사각형을 한 방향으로 늘이고 반대 방향으로 눌러 말굽 모양으로 접은 뒤 원래 정사각형 위에 되겹쳐 놓는 미분동형사상이며, 카오스가 존재한다는 것을 그림이 아니라 정리로 확정한 최초의 구조다. 스티븐 스메일이 1960년대 초 리우데자네이루의 해변에서 구상했다는 일화로 유명하다.¹

말굽이 특별한 이유는 두 가지다. 첫째, 이 사상의 불변집합 위에서의 동역학이 두 기호 위의 이동사상과 위상적으로 공액임을 유한한 지면 안에서 완전히 증명할 수 있다. 즉 카오스의 모든 증상(무한히 많은 주기궤도, 비가산 개의 비주기 궤도, 초기조건 민감성)이 추측이 아니라 따름정리로 나온다. 둘째, 이 구조는 섭동에 강건하다. 방정식을 조금 바꿔도 말굽은 살아남는다. 수치 실험에서 본 불규칙한 궤적이 “적분기의 버그”나 “우연”이 아님을 보증하는 것이 바로 이 강건성이다.

카오스 이론 문서가 카오스의 정의와 진단을 다룬다면, 이 문서는 그 정의를 만족한다고 증명할 수 있는 구체적 사상을 조립한다.

2. 사상의 조립[편집]

무대는 단위 정사각형 $S = [0,1]^2$ 이다(엄밀하게는 위아래에 반원을 붙인 스타디움 모양 $D$ 를 잡아야 사상이 $D$ 를 자기 안으로 보내는 미분동형이 된다). 사상 $f$ 는 세 동작의 합성이다.

늘리기. 세로 방향으로 $\lambda > 2$ 배 늘린다.
누르기. 가로 방향으로 $\mu < 1/2$ 배로 줄인다. 결과는 아주 가늘고 긴 세로 막대.
접어 되넣기. 막대를 U자로 굽혀 $S$ 위에 얹는다.

접힌 U자의 두 다리는 세로 방향 띠다. 그래서 정사각형과의 교집합이

f(S) \cap S \;=\; V_0 \cup V_1

로, 폭 $\mu$ 짜리 세로 띠 두 개가 된다. 거꾸로 이 두 세로 띠의 원상은 높이 $1/\lambda$ 짜리 가로 띠 두 개 $H_0 = f^{-1}(V_0)$ , $H_1 = f^{-1}(V_1)$ 이다. $H_i$ 위에서 $f$ 는 아핀이고, 야코비안이 대각 $\mathrm{diag}(\mu, \lambda)$ — 가로는 수축, 세로는 팽창이다.

핵심은 U자의 굽은 부분이 정사각형 밖으로 나간다는 점이다. 접힘이 만든 비선형성은 $S$ 안에서는 보이지 않고, 대신 “두 조각으로 나뉘어 되돌아온다”는 조합론적 사실만 남긴다. 카오스의 표준 설명인 늘리고-접기(stretch and fold)가 여기서 “선형 쌍곡성 + 두 갈래 선택”으로 완전히 분해되는 것이다. 반죽을 늘려 반으로 접는 제빵사의 동작을 상상하면 정확하다.

3. 불변집합은 칸토어 × 칸토어[편집]

영원히 $S$ 안에 남는 점들의 집합을 보자.

\Lambda \;=\; \bigcap_{n \in \mathbb{Z}} f^{\,n}(S)

먼저 미래만 본다. $f(S)\cap S$ 는 폭 $\mu$ 인 세로 띠 2개, $f^2(S) \cap f(S) \cap S$ 는 각 띠 안에 폭 $\mu^2$ 인 세로 띠가 2개씩 총 4개, … 이런 식으로 $n$ 단계에서 폭 $\mu^n$ 짜리 세로 띠 $2^n$ 개다. 극한에서 남는 것은

\bigcap_{n \ge 0} f^{\,n}(S) \;=\; C_x \times [0,1]

로, $C_x$ 는 가로축 위의 칸토어 집합이다( $\mu = 1/3$ 이면 정확히 표준 3분 칸토어 집합). 같은 논의를 $f^{-1}$ 에 대해 하면 가로 띠들이 얇아지며

\bigcap_{n \ge 0} f^{-n}(S) \;=\; [0,1] \times C_y

를 준다. 둘을 교차시키면

\Lambda \;=\; C_x \times C_y

칸토어 집합의 곱이다. 성질은 전부 따라 나온다 — 콤팩트하고, 완전 비연결이며, 고립점이 없고(완전집합), 비가산이고, 2차원 르베그 측도가 0이다. 하우스도르프 차원은 두 방향 차원의 합

\dim_H \Lambda \;=\; \frac{\ln 2}{\ln(1/\mu)} + \frac{\ln 2}{\ln \lambda}

이고, $\mu = 1/3,\ \lambda = 3$ 이면 $2\ln 2/\ln 3 \approx 1.262$ 다. 각 점 $p \in \Lambda$ 의 안정 다양체 $W^s(p)$ 는 수평 선분, 불안정 다양체 $W^u(p)$ 는 수직 선분이며, 접공간이 어디서나 $E^s \oplus E^u$ 로 갈라지고 팽창·수축률이 균일하다. 이것이 균등 쌍곡 집합의 교과서적 표본이다.

4. 기호 동역학 — 궤도에 주소를 붙이기[편집]

이제 결정적인 단계. $x \in \Lambda$ 에 대해 여정(itinerary)을 정의한다.

h(x) = (\dots, a_{-2}, a_{-1}; a_0, a_1, a_2, \dots), \qquad a_n = i \iff f^{\,n}(x) \in H_i

즉 “ $n$ 번째 시각에 왼쪽 띠에 있었나 오른쪽 띠에 있었나”를 0/1로 적은 양방향 무한 수열이다. 코드 영역은 $\Sigma_2 = \{0,1\}^{\mathbb{Z}}$ 이고, 여기에 $d(a,b) = \sum_n |a_n - b_n|/2^{|n|}$ 거리를 주면 콤팩트 거리공간이 된다.

여기서 두 가지가 증명된다.

$h : \Lambda \to \Sigma_2$ 는 위상동형이다. 전사성은 임의의 기호열에 대응하는 세로 띠와 가로 띠의 중첩 교집합이 축약열이므로 비지 않는다는 것에서, 단사성은 그 교집합이 한 점으로 줄어든다는 것에서 나온다.
$h \circ f = \sigma \circ h$ , 여기서 $\sigma$ 는 이동사상(shift) $\sigma(a)_n = a_{n+1}$ 이다. 사상을 한 번 적용하는 것 = 수열을 한 칸 미는 것.

즉 $f|_\Lambda$ 와 $\sigma$ 는 위상 공액이다. 이 한 줄이 문서 전체의 결론이다. 왜냐하면 $\sigma$ 의 성질은 초등적으로 셀 수 있기 때문이다.

주기 $n$ 인 점의 개수 = 주기 $n$ 인 기호열의 개수 = $2^n$ 개. 따라서 모든 주기의 주기궤도가 존재하고 전부 합치면 가산 무한 개다.
비주기 기호열은 비가산 개다. 따라서 비주기 궤도도 비가산 개.
모든 유한 단어를 사전순으로 이어붙인 기호열은 조밀 궤도를 준다 → 위상적 추이성.
두 기호열이 $|n| \le N$ 에서 같아도 $n = N+1$ 에서 다르면 $N+1$ 번 반복 후 서로 다른 띠에 놓인다 → 초기조건 민감성. 게다가 어떤 점의 임의의 근방을 잡아도 유한 시간 안에 $\Lambda$ 전체를 덮도록 늘어난다.
위상 엔트로피는 $\ln 2$ . 반복 한 번마다 정보 1비트가 소모된다.

디베이니의 카오스 정의 세 조건이 전부 충족되었고, 하나도 수치 실험에 기대지 않았다. “카오스의 존재 증명”이라는 표현은 이런 의미다.

5. 왜 이것이 결정적이었나 — 구조적 안정성[편집]

말굽의 역사적 중요성은 종종 오해된다. 스메일이 이 사상을 만든 원래 동기는 카오스를 발견하려는 것이 아니었다. 당시 그는 “구조적으로 안정한 계는 주기궤도를 유한 개만 갖는다”는 취지의 추측을 밀고 있었고, 카트라이트-리틀우드와 레빈슨이 강제 판데르폴 진동자에서 찾아낸 무한히 많은 주기궤도는 특이한 예외일 것이라 생각했다. 말굽은 그 추측을 반증하려고 만든 반례다.

말굽은 무한히 많은 주기궤도를 갖는다. 동시에 균등 쌍곡이라 구조적 안정성을 갖는다 — $C^1$ 위상에서 충분히 가까운 임의의 사상 $g$ 에 대해서도 여전히 말굽이 존재하고, $g|_{\Lambda_g}$ 가 같은 이동사상과 공액이다. 두 성질이 동시에 성립한다는 것은, 이 복잡함이 정밀하게 조율된 특수 상황이 아니라 열린 조건임을 뜻한다.

공학적으로 번역하면 이렇다. 모형에 항력 계수를 1% 잘못 넣어도, 적분기가 미세한 오차를 넣어도, 부품 공차가 있어도 말굽은 사라지지 않는다. “우리 계에서 관측된 불규칙성은 모형 오차 때문일 것”이라는 흔한 반박이 여기서 막힌다. 반대로 로렌츠 끌개 같은 비균등 쌍곡 대상은 이 정도로 깔끔하지 않아서, 존재성을 확정하는 데 로렌츠 방정식 문서에 나오는 컴퓨터 보조 증명이 필요했다.

한 가지 더 강조할 점 — $\Lambda$ 는 끌개가 아니다. 측도가 0이고, $S$ 의 거의 모든 점은 유한 시간 안에 $S$ 를 떠난다. 실제 시스템에서 말굽만 있다면 관측되는 것은 영구적 카오스가 아니라 과도 카오스(transient chaos)다. 궤도가 한동안 불규칙하게 방황하다 갑자기 다른 끌개로 정착하는 현상이 그것이고, 체류 시간이 지수 분포를 따른다는 것이 판별 신호다.

6. 호모클리닉 얽힘과의 관계[편집]

말굽이 인공적인 장난감이 아닌 이유는 실제 방정식에서 자동으로 나오기 때문이다. 다리를 놓는 것이 스메일-버코프 호모클리닉 정리다.

미분동형사상 $f$ 가 쌍곡 고정점 $p$ 를 갖고, $W^u(p)$ 와 $W^s(p)$ 가 어떤 점에서 횡단적으로 교차하면, 적당한 $N$ 에 대해 $f^N$ 은 두 기호 이동사상과 공액인 불변집합을 갖는다.

기하적 직관은 이렇다. 횡단 교차점 하나가 있으면 그 상과 역상이 전부 교차점이므로 교차점이 무한히 많다. 다양체는 그 무한한 교차를 만들기 위해 안장 근처에서 한없이 길게 늘어나며 촘촘히 접혀 들어가고, 그 결과 어떤 사각형 영역이 자기 자신 위로 늘어나서 두 번 겹치도록 되돌아오는 상황이 반드시 생긴다. 그게 바로 말굽이다. 자세한 얽힘의 기하와 이를 판정하는 멜니코프 적분은 호모클리닉 궤도 문서에 있다.

이 정리 덕분에 “카오스를 증명한다”는 작업이 횡단 호모클리닉 교차를 하나만 찾으면 되는 국소적 작업으로 축소된다. 강제 감쇠 진동자(더핑, 판데르폴), 표준 사상 같은 계에서 카오스 문턱을 손으로 계산할 수 있는 것도 이 축소 덕분이다. 역방향 결과도 있다 — 카토크의 정리에 따르면 곡면 위의 $C^{1+\alpha}$ 미분동형이 양의 위상 엔트로피를 가지면 그 엔트로피에 임의로 가까운 엔트로피를 갖는 말굽이 반드시 존재한다. 2차원에서 엔트로피는 결국 말굽에서 나온다는 뜻이다.

7. 수치적으로 말굽을 찾기[편집]

구체적인 계에 말굽이 있음을 컴퓨터로 증명하는 절차도 확립되어 있다. 그림을 그려 “말굽처럼 보인다”고 말하는 것과는 다르다.

덮음 관계(covering relation) / 위상적 방법. 두 개의 사각형 $N_0, N_1$ 을 잡고, 그 상이 각각 두 사각형을 “가로질러 덮는다”는 조건을 구간 해석으로 검증한다. 조건이 성립하면 브라우어 차수 논증으로 각 기호열마다 궤도가 존재함이 따라 나온다. 즐리치인스키가 에농 사상과 로렌츠계에 적용한 방식이 대표적이다.
코늘리 지표. 고립 불변집합의 대수적 불변량을 계산해 이동사상의 존재를 결론짓는다. 미샤이코프와 므로제크가 1995년 로렌츠 방정식의 카오스를 컴퓨터 보조로 증명할 때 쓴 도구다.
불안정 다양체 추적. 안장의 불안정 고유벡터 방향으로 짧은 선분을 놓고 반복 적용하며 선분을 재보간해 늘려 나간다. $W^u$ 가 자기 자신의 $W^s$ 를 가로지르는 순간을 시각적으로 잡을 수 있어 탐색 단계에 유용하지만, 이것만으로는 증명이 아니다.

대표 사례로 에농 사상 $(x,y) \mapsto (1 - ax^2 + y,\ bx)$ 는 $a$ 가 충분히 크면 말굽을 포함한다는 것이 드베이니와 니테츠키(1979)에 의해 증명되었다. 반면 흔히 쓰는 $a = 1.4,\ b = 0.3$ 에서 보이는 “이상한 끌개”가 진짜 이상한 끌개인지는 그보다 훨씬 어려운 문제이며, 베네딕스-칼레손류의 결과가 파라미터의 양의 측도 집합에 대해서만 답을 준다. 그림에서 보이는 것과 증명할 수 있는 것 사이의 간격이 이 분야에서 얼마나 큰지 보여주는 사례다.²

8. 관련 문서[편집]

스메일 본인의 회고에 따르면 코파카바나 해변에서 이 그림을 떠올렸고, 그 덕에 “미국 납세자의 돈으로 브라질 해변에서 놀았다”는 정치적 시비에 시달렸다고 한다. 결과물이 필즈상(1966)이었으니 투자 수익률로는 나쁘지 않았다. ↩
그래서 이 바닥의 논문 문장을 읽을 때 “카오스가 관찰된다”와 “카오스가 증명되었다”를 구분해야 한다. 전자는 그림과 양의 랴푸노프 지수 추정치, 후자는 구간 산술로 감싼 포함 관계다. 둘 사이에는 대체로 박사논문 한 편이 들어 있다. ↩