확률적 파라미터화

계산물리 통계 시뮬레이션 마지막 수정: 2026-08-15 04:47:52

1. 개요[편집]

확률적 파라미터화(stochastic parameterization)는 격자보다 작은 미해상(subgrid) 과정이 해상 규모에 미치는 영향을 하나의 결정론적 함수가 아니라 확률과정으로 모형화하는 폐쇄 기법이다. 전통적 파라미터화가 “격자 평균 상태가 주어지면 미해상 강제는 이 값”이라고 단정하는 자리에, 확률적 파라미터화는 “이 분포에서 뽑힌 값”이라고 답한다.

동기는 단순하고 뼈아프다. 결정론적 폐쇄식은 원리적으로 틀렸는데, 그 틀림이 예보 오차의 큰 부분을 차지한다. 초기조건만 흔든 앙상블 예보는 반드시 과소분산(under-dispersion)이 되고, 모형은 자기가 얼마나 모르는지를 표현할 언어를 갖지 못한다. 확률적 파라미터화는 그 언어를 만들어 주는 작업이다.

기상·기후에서 출발했지만 논리는 그 바깥에서도 똑같다. 난류 모델링의 부격자 응력, 대와류 모사의 후방산란, 분자 시뮬레이션의 조대화 모형이 전부 같은 질문 — 평균을 취해 버린 자유도를 어떻게 되살릴 것인가 — 을 공유한다.

2. 결정론적 폐쇄식이 틀리는 지점[편집]

파라미터화의 암묵적 정당화는 두 가지 가정 위에 서 있다.

척도 분리. 미해상 과정이 해상 과정보다 훨씬 빠르고 작아서, 격자 시간 동안 통계적 평형에 도달한다.
큰 수의 법칙. 격자 상자 안에 미해상 요소(예: 적운 세포)가 아주 많이 들어 있어, 그 앙상블 평균이 요동 없이 결정된다.

문제는 둘 다 현대 모형에서 성립하지 않는다는 것이다. 격자가 촘촘해질수록 상자 안 구름 개수는 줄어들고, 중심극한정리적 논리대로 표본 평균의 상대 요동은 $1/\sqrt{N}$ 로만 줄어든다. 격자 안에 깊은 대류 세포가 다섯 개 있으면 요동은 40%대다. 그리고 대기에는 격자 크기 근처에서 스펙트럼이 뚝 끊기는 지점이 애초에 없다 — 척도 분리 자체가 허구다.

여기에 비선형이 겹치면 상황이 더 나빠진다. 미해상 강제 $g$ 가 상태 $x$ 의 비선형 함수일 때

\mathbb{E}[\,g(x + \xi)\,] \neq g(\mathbb{E}[x])

이므로, 요동을 0으로 놓고 평균 상태만 넣는 결정론적 폐쇄식은 평균 자체를 틀리게 만든다. 대류처럼 문턱(CAPE, 임계 습도)이 있는 과정에서는 이 정류(rectification) 효과가 크다. 잡음을 넣었더니 앙상블 스프레드뿐 아니라 평균 기후가 개선되는 사례들이 여기서 나온다.¹

3. 현업의 세 가지 표준 스킴[편집]

앙상블 예보 문서가 앙상블 설계 관점에서 이미 훑고 지나간 것들인데, 여기서는 폐쇄식 관점에서 무엇을 확률화했는지를 본다.

SPPT(Stochastically Perturbed Parametrization Tendencies). 물리 과정이 만든 시간 경향의 총합 $\mathbf{P}$ 에 평균 0인 무작위장 $r$ 을 곱해

\frac{\partial \mathbf{x}}{\partial t}\bigg|_{\text{phys}} = \big(1 + \mu(z)\, r(\boldsymbol{\lambda}, t)\big)\,\mathbf{P}

로 쓴다. $r$ 은 공간에서 스펙트럼 전개, 시간에서 1차 자기회귀로 생성해 상관 길이·상관 시간을 갖게 하고(백색 잡음이 아니다), 지면과 모형 상단 근처에서는 $\mu$ 로 죽인다. 구현이 단순하고 효과가 커서 사실상 업계 표준이 됐다. 대신 개별 물리 과정을 구분하지 않고 총합을 통째로 곱한다는 점에서 물리적으로는 거친 근사이며, 곱셈 계수가 지나치게 커지지 않도록 잘라 주는 처방이 함께 따라붙는다.²

SKEB(Stochastic Kinetic Energy Backscatter). 수치 소산·대류·중력파 항력이 격자 이하로 빼앗아 간 운동에너지 중 일부를 유선함수 강제 형태로 해상 규모에 되돌려 준다. 난류의 역캐스케이드에 대응하는 아이디어이며, 모형이 지나치게 얌전해지는 문제를 직접 겨냥한다. 되돌려 줄 비율(backscatter ratio)이 사실상 튜닝 파라미터라는 점이 약점.

SPP(Stochastically Perturbed Parameters). 경향이 아니라 폐쇄식 안의 상수(연행률, 낙하속도, 혼합길이 등)를 매 멤버·매 시각 분포에서 뽑는다. “우리가 모르는 것은 상수의 값”이라는 진단에 가장 정직하게 대응하는 방식이지만, 상수마다 물리적으로 타당한 분포와 상관 시간을 정해야 해서 조율 비용이 크다.

4. 미해상 과정을 아예 확률과정으로 다시 쓰기[편집]

위 셋이 “기존 결정론 스킴에 잡음을 얹는” 접근이라면, 폐쇄식 자체를 확률모형으로 다시 설계하는 계열이 있다.

확률적 다세포 모형(stochastic multicloud model). 격자 상자 안에 가상의 격자점을 여러 개 두고, 각 점이 맑음·적운·심층대류·층상운 네 상태 사이를 옮겨 다니는 마르코프 연쇄를 돌린다. 전이율은 CAPE·중층 건조도 같은 해상 변수의 함수다. 상자 안 세포 수가 유한하다는 사실이 모형 안에 명시적으로 들어가므로, 요동의 크기가 격자 크기에 따라 자동으로 조절된다는 것이 큰 장점. 열대 파동과 매든-줄리안 진동의 조직화를 재현하는 데 성과를 냈다.
초매개변수화(superparameterization). 각 대기 기둥 안에 2차원 구름 해상 모형을 통째로 심어 대류를 직접 계산한다. 원래는 결정론적 접근이지만, 내부 CRM의 초기 상태와 위상이 사실상 무작위이므로 결과적으로 확률적 강제를 낳는다. 여기에 명시적으로 잡음을 넣어 훨씬 싸게 흉내 내는 확률적 초매개변수화 변종도 있다. 비용이 수십~수백 배라 기후 연구용에 머문다.
자료 기반 폐쇄. 고해상 모사에서 미해상 강제의 잔차를 뽑아 조건부 분포를 회귀하거나 심층 학습 생성모형으로 표본을 뽑는다. 성능은 좋지만 외삽 영역에서 무엇을 할지 보장이 없고, 물리 보존을 강제로 심어야 한다는 점이 발목을 잡는다.

5. 이론적 뿌리 — 모리-즈반치히와 요동-소산[편집]

잡음을 왜 넣어야 하는지에 대한 원리적 답은 통계물리에서 온다. 전체 상태를 해상 성분 $x$ 와 미해상 성분 $y$ 로 나눈 뒤 $y$ 를 소거하면(모리-즈반치히 사영), $x$ 는 정확히 다음 꼴의 일반화 랑주뱅 방정식을 따른다.

\dot{x} = f(x) + \int_0^t K(t-s)\,x(s)\,\mathrm{d}s + \eta(t)

즉 결정론적 항 + 기억 항 + 잡음 항이다. 결정론적 파라미터화는 이 셋 중 첫 항만 남긴 근사인 셈이고, 기억 커널의 상관 시간이 짧다는 마르코프 극한을 취하면 감쇠와 잡음이 짝을 이루는 랑주뱅 동역학 형태가 나온다. 이때 감쇠 강도와 잡음 세기를 묶는 관계가 요동-소산 정리다.

기후 쪽에서 이 논리를 체계적으로 밀어붙인 것이 마이다·티모페예프·반덴에인덴의 확률적 모드 축소 이론으로, 느린 변수만 남기고 빠른 변수를 균질화(homogenization)해 유도한 방정식에 곱셈형 잡음과 잡음 유도 드리프트가 자동으로 등장한다는 것을 보였다. 실무 스킴의 곱셈형 구조(SPPT가 $\mathbf{P}$ 에 곱하는 형태)가 임의의 선택이 아니라는 이론적 근거가 여기 있다.

시험대로는 로렌츠의 2척도 모형(느린 변수 고리에 빠른 변수 다발이 붙은 장난감 계)이 표준이다. 진실을 알고 있는 상태에서 폐쇄식을 만들어 볼 수 있어서, 새 스킴은 대개 여기서 먼저 얻어맞고 온다. 로렌츠 방정식과 카오스 이론이 깔아 놓은 무대 위에서, 잡음이 체제 전이 빈도와 랴푸노프 지수를 어떻게 바꾸는지를 직접 관찰할 수 있다.

6. 수치적으로 조심할 것[편집]

확률항을 코드에 넣는 순간 결정론 솔버의 상식 몇 가지가 깨진다.

시간 간격 스케일링. 확률 강제의 증분은 $\Delta t$ 가 아니라 $\sqrt{\Delta t}$ 로 스케일해야 한다(확률미분방정식 문서 참고). 매 스텝 같은 크기의 난수를 그냥 더하면 해상도를 바꿀 때 결과가 조용히 달라진다. 실제로 발생하는 흔한 버그.
이토냐 스트라토노비치냐. SPPT처럼 상태 의존 계수에 잡음이 곱해지는 형태는 곱셈형이므로 해석에 따라 평균 드리프트가 달라진다. 이토 적분 규약으로 짠 코드와 물리적 직관(유색 잡음의 극한, 즉 스트라토노비치)이 어긋나면 편향이 생긴다.
상관 구조가 곧 물리다. 잡음의 공간 상관 길이와 시간 상관 시간은 자유 파라미터가 아니라 미해상 조직화의 규모를 대변한다. 백색 잡음은 대개 아무 효과도 못 내고 모형만 시끄럽게 만든다.
보존. 경향에 난수를 곱하면 질량·에너지·수분 수지가 깨진다. 현업 모형은 전역 보정항(fixer)을 따로 둔다.
재현성. 난수 씨앗을 멤버·격자 분해(도메인 분할)와 독립적으로 관리하지 않으면 프로세서 수를 바꿨을 때 결과가 달라진다. 디버깅 지옥의 단골 원인.

7. 잘 됐는지 어떻게 아는가[편집]

확률적 폐쇄식의 성패는 “결정론 예보가 더 정확해졌나”로 재지 않는다. 애초에 목표가 다르기 때문이다. 판단 기준은 앙상블이 정직해졌는가이며, 순위 히스토그램의 평탄도, 스프레드-스킬 일치, CRPS·브라이어 같은 적정 점수 규칙으로 잰다. 구체적인 지표 정의와 해석은 앙상블 예보 문서에 정리돼 있다.

여기에 기후 쪽 기준이 하나 더 붙는다. 장기 통계가 좋아졌는가 — 블로킹 빈도, 열대 변동성, 강수 극값 분포처럼 결정론 모형이 만성적으로 틀리던 항목들이다. 잡음이 앙상블만 넓히고 평균 기후를 망친다면 그 스킴은 실패다. 자료동화와의 궁합도 봐야 하는데, 앙상블 칼만 필터는 배경 오차 공분산을 앙상블에서 뽑으므로 확률적 폐쇄식이 만드는 스프레드가 곧 분석 품질에 직결된다.

정직하게 말하면 남은 문제도 많다. 튜닝 파라미터가 물리 스킴보다 늘어난다는 비판이 있고, 잡음이 물리적 오차가 아니라 코딩 오류를 덮어 주는 것 아니냐는 의심도 따라다닌다.³ 그리고 격자가 대류 해상 규모로 내려가면 무엇을 확률화해야 하는지가 다시 열린 문제로 남는다.⁴ 그래도 방향 자체에는 논쟁이 별로 없다. 모르는 것을 아는 척하는 것보다 모른다고 말하는 편이 낫다는 데는 다들 동의한다.

8. 관련 문서[편집]

이걸 처음 본 모형 개발자의 반응은 대개 “난수를 넣었더니 성능이 좋아졌다니 뭔가 잘못된 거 아니냐”이다. 잘못된 게 맞다 — 다만 잘못된 쪽은 잡음이 아니라, 요동이 0이라고 우기던 원래 폐쇄식이다. ↩
SPPT의 곱셈 계수는 보통 $|r| \le 1$ 정도로 잘라 쓴다. 안 자르면 경향의 부호가 뒤집혀 대류가 대기를 데우는 게 아니라 식히는 사태가 벌어진다. 물리적 근거가 튼튼한 절단이라기보다는 “이렇게 안 하면 터진다”에 가까운 실무적 처방이다. ↩
“확률적 파라미터화는 결국 튜닝 파라미터를 늘리는 것 아니냐”는 비판은 절반쯤 맞다. 반론은 이렇다 — 결정론 스킴의 상수들도 어차피 튜닝이었고, 최소한 확률적 버전은 그 불확실성을 감추지 않고 분포로 드러낸다. 감춘 튜닝보다 드러낸 튜닝이 낫다는 논리인데, 리뷰어를 설득하는 데는 여전히 애를 먹는다. ↩
격자가 수 km 아래로 내려가 대류를 직접 해상하기 시작하면(convection-permitting) 대류 파라미터화를 끄게 되는데, 그렇다고 문제가 사라지지는 않는다. 이번엔 “일부는 풀리고 일부는 안 풀리는” 회색지대(grey zone)가 열리고, 여기서는 확률화가 오히려 더 절실해진다. 해상도를 올리면 폐쇄식 문제가 없어질 거라는 기대는 난류 쪽에서 이미 여러 번 배신당한 전적이 있다. ↩