자료동화

수치해석 통계 마지막 수정: 2026-07-22 04:46:19

1. 개요[편집]

모델은 미래를 알지만 현실을 모르고, 관측은 현실을 알지만 성기다. 그 둘을 억지로 화해시키는 기술.

자료동화(data assimilation)는 불완전한 관측 데이터와 수치 모델의 예측을 통계적으로 결합하여, 계의 상태를 가장 그럴듯하게 추정하는 방법론이다. 핵심 질문은 이렇다. “모델은 이렇게 말하는데 센서는 저렇게 말한다. 둘 다 틀릴 수 있다. 그럼 진짜 상태는 어디쯤인가?” 자료동화는 이 물음에 각각의 불확실성을 저울추 삼아 답한다. 모델을 더 믿을지 관측을 더 믿을지를, 각자의 오차 공분산이 자동으로 정해준다.

가장 화려하게 쓰이는 무대는 수치기상예보다. 전 지구 대기 모델은 수억 개의 격자점 상태를 들고 도는데, 위성·라디오존데·항공기·부표에서 들어오는 관측은 그 격자 전체를 다 채우지 못한다. 자료동화는 성긴 관측을 발판 삼아 모델의 초기장(initial condition) 전체를 매 시간 새로 다듬는다. 예보의 품질이 초기장에서 절반 이상 결정된다는 점에서, 자료동화는 사실상 예보 정확도의 심장이다.¹

2. 문제 설정[편집]

시각 $t$ 에서 계의 참 상태를 $\mathbf{x}$ 라 하고, 관측을 $\mathbf{y}$ 라 하자. 관측은 상태에 관측 연산자 $H$ 를 적용한 뒤 잡음이 얹힌 것이다: $\mathbf{y} = H(\mathbf{x}) + \boldsymbol{\varepsilon}$ . 한편 모델이 던지는 사전 예측(배경장, background) $\mathbf{x}_b$ 에도 오차가 있다. 자료동화는 이 둘을 결합해 분석장(analysis) $\mathbf{x}_a$ 를 얻는다.

베이즈 정리로 보면 이야기는 깔끔하다. 배경장을 사전분포, 관측을 우도로 놓고 사후분포를 구하는 것. 오차가 모두 가우시안이라면 사후분포의 최빈값은 다음 비용함수를 최소화하는 지점이다.

J(\mathbf{x}) = \tfrac{1}{2}(\mathbf{x}-\mathbf{x}_b)^{\top} B^{-1} (\mathbf{x}-\mathbf{x}_b) + \tfrac{1}{2}(\mathbf{y}-H\mathbf{x})^{\top} R^{-1} (\mathbf{y}-H\mathbf{x})

앞 항은 “모델에서 너무 벗어나지 마라”, 뒤 항은 “관측과 어긋나지 마라”는 벌점이다. $B$ 는 배경 오차 공분산, $R$ 은 관측 오차 공분산으로, 각 항의 저울추 역할을 한다. 이 최소화 문제를 어떻게 푸느냐에 따라 자료동화의 계파가 갈린다.

3. 대표 기법들[편집]

칼만 필터 / 확장 칼만 필터. 선형 계에서 위 문제의 최적해를 순차적으로 갱신하는 고전. 상태 공분산을 명시적으로 시간 전진시키는데, 상태 차원이 수억인 대기 모델에서는 이 공분산 행렬을 통째로 다루는 게 불가능하다.
앙상블 칼만 필터(EnKF). 공분산을 통째로 들고 다니는 대신, 수십~수백 개의 앙상블 멤버를 굴려 그 표본 공분산으로 대체한다. 몬테카를로 정신을 칼만 필터에 이식한 것으로, 고차원·비선형 계의 사실상 표준이 되었다.
4D-Var(사차원 변분법). 시간 구간 전체에 걸친 관측을 한꺼번에 놓고, 모델을 제약조건으로 삼아 비용함수를 최소화한다. 모델의 수반법(adjoint)을 이용해 기울기를 구하는 것이 핵심으로, 유럽중기예보센터(ECMWF)의 주력 방식이었다.²
입자 필터. 가우시안 가정조차 버리고 사후분포를 가중 표본으로 근사한다. 이론적으로 가장 일반적이지만, 고차원에서 표본이 붕괴하는 문제 때문에 기상 규모에는 아직 손대기 조심스럽다.

실무에서는 이들을 섞은 하이브리드(예: 4D-EnVar)가 대세다. 앙상블로 배경 공분산을 추정하고, 변분법으로 최소화하는 식이다.

4. 카오스라는 시험대[편집]

자료동화가 왜 어렵고 왜 필요한지를 압축해서 보여주는 장난감이 로렌츠 방정식이다. 세 개의 변수만으로 결정론적 카오스를 만드는 이 계는, 초기조건이 아주 조금만 달라도 궤적이 지수적으로 갈라진다. 예보가 시간이 갈수록 못 믿게 되는 이유가 바로 이것이다.

로렌츠-63은 자료동화 알고리즘의 표준 시험대 — 카오스계에서 관측으로 궤적을 붙잡는 문제를 압축한 장난감

자료동화의 임무는 이 발산하는 궤적을, 성긴 관측을 이따금 주입하는 것만으로 참 궤적 곁에 붙잡아 두는 것이다. 관측이 충분히 자주, 충분히 정확하게 들어오면 추정 궤적은 참값을 따라간다. 관측이 뜸해지거나 잡음이 커지면 카오스의 발산력이 이겨 궤적이 튕겨나간다. 새 알고리즘을 제안하는 논문의 절반은 이 로렌츠-63 위에서 먼저 성능을 증명하고 시작한다.³ 실제 대기라는 수억 차원 괴물에 바로 붙이기 전에, 세 변수짜리 카오스에서 먼저 검증하는 것이 국룰이다.

5. 어디에 쓰이나[편집]

수치기상예보와 해양 예측. 자료동화의 본진. 매 사이클마다 전 지구 관측 수억 건을 소화한다.
재분석(reanalysis). 과거 수십 년치 관측을 일관된 모델로 다시 동화해 균질한 기후 데이터셋을 만든다. ERA5 같은 산출물이 여기서 나온다.
저수지·오염 확산·전염병 모델링. 관측이 성긴 환경·역학 모델에서 상태와 파라미터를 동시에 추정한다.
디지털 트윈과 CFD. 실측 센서로 시뮬레이션을 실시간 보정하는 하이브리드 해석에서 자료동화가 접착제 역할을 한다.

한 줄로 요약하면, 자료동화는 “모델과 현실 중 무엇을 더 믿을지를 매 순간 최적으로 저울질하는 기술”이다. 모델만 믿으면 카오스에 떠내려가고, 관측만 믿으면 성긴 데이터의 구멍에 빠진다. 그 사이에서 통계적으로 가장 덜 틀린 답을 뽑아내는 것 — 그게 자료동화가 하는 일의 전부이자 어려움의 전부다.

6. 관련 문서[편집]

“예보가 틀렸다”는 원망의 절반은 사실 초기장이 틀린 탓이다. 모델 물리가 아무리 훌륭해도, 출발점을 잘못 잡으면 카오스가 그 오차를 며칠 만에 증폭시킨다. 자료동화 담당자는 그래서 늘 조용히 예보관들의 밥줄을 쥐고 있다. ↩
수반 모델(adjoint model)을 짜는 일은 원래 예보 모델을 한 벌 더 만드는 것과 맞먹는 노동이다. 코드 몇만 줄짜리 대기 모델의 수반을 손으로 유도하다 보면, 자동 미분이라는 게 왜 축복인지 뼈저리게 느끼게 된다. ↩
로렌츠 본인이 1963년 논문에서 “장기 예보는 불가능하다”는 결론을 낸 바로 그 계가, 반세기 뒤 예보를 개선하는 알고리즘의 표준 벤치마크가 되었다는 건 제법 얄궂은 반전이다. ↩