앙상블 칼만 필터

편집 역사 토론
통계 수치해석 마지막 수정: 2026-07-20 04:23:58

1. 개요[편집]

앙상블 칼만 필터
Ensemble Kalman Filter
약칭EnKF
제안Geir Evensen (1994)
모태칼만 필터 + 몬테카를로
핵심앙상블 표본공분산으로 P를 근사
주무대기상·해양 자료동화, 저류층 추정

앙상블 칼만 필터(Ensemble Kalman Filter, EnKF)는 칼만 필터의 공분산 행렬을 명시적으로 저장·전파하는 대신, 여러 개의 표본(앙상블 멤버)으로 대체해 근사하는 몬테카를로 방법 기반 상태 추정 기법이다. 1994년 가이르 에벤센이 제안했으며, 한마디로 고차원·비선형 문제를 위한 칼만 필터다.1

칼만 필터 문서에서 지적했듯, 표준 칼만 필터에는 두 개의 벽이 있다. 첫째, 상태 차원 nn이 커지면 공분산 행렬 P\mathbf{P}의 저장이 O(n2)O(n^2), 전파가 O(n3)O(n^3)이라 감당이 안 된다. 격자점 10810^8개짜리 기상 모델에서 완전 칼만 필터를 돌린다는 건 농담이다. 둘째, 상태 전이가 비선형이면 공분산을 굴리는 선형 공식이 성립하지 않는다. EnKF는 이 두 벽을 앙상블 하나로 동시에 넘는다. 공분산을 통째로 들고 다니지 않고 멤버 몇 십~몇 백 개의 흩어진 정도로 대신하니 P\mathbf{P}를 저장할 일이 없고, 각 멤버를 그냥 완전 비선형 모델에 통과시키니 선형화도 필요 없다.

2. 앙상블로 공분산 대신하기[편집]

EnKF는 상태의 확률분포를 NN개의 멤버 {x(1),…,x(N)}\{\mathbf{x}^{(1)}, \dots, \mathbf{x}^{(N)}\}로 표현한다. 필요한 통계량은 이 멤버들에서 표본으로 뽑는다. 평균은 그냥 산술평균이고, 공분산은 표본공분산이다.

xˉ=1N∑j=1Nx(j),P≈1N−1∑j=1N(x(j)−xˉ)(x(j)−xˉ)T\bar{\mathbf{x}} = \frac{1}{N}\sum_{j=1}^{N}\mathbf{x}^{(j)}, \qquad \mathbf{P} \approx \frac{1}{N-1}\sum_{j=1}^{N}\left(\mathbf{x}^{(j)}-\bar{\mathbf{x}}\right)\left(\mathbf{x}^{(j)}-\bar{\mathbf{x}}\right)^{\mathsf{T}}

여기서 결정적인 트릭은 이 표본공분산을 행렬로 실제로 만들지 않는다는 것이다. 멤버들의 편차를 열로 쌓은 앙상블 편차 행렬 X′\mathbf{X}' (크기 n×Nn\times N)만 들고 다니면, P=X′X′T/(N−1)\mathbf{P} = \mathbf{X}'\mathbf{X}'^{\mathsf{T}}/(N-1)은 필요할 때 곱셈 순서만 바꿔 계산할 수 있다. 그래서 실질 비용이 n2n^2이 아니라 nNnN으로 떨어진다. 상태 차원이 수백만이어도 멤버가 100개면 100개짜리 문제로 압축되는 셈. 이 발상은 주성분 분석이 데이터를 소수의 주성분으로 압축하는 것과 정확히 같은 정신이다.

3. 예측-분석 사이클[편집]

EnKF도 칼만 필터처럼 예측(forecast)과 분석(analysis) 두 단계를 반복한다. 다만 각 단계가 앙상블 전체에 적용된다.

3.1. 예측 단계[편집]

각 멤버를 완전한 비선형 모델 M\mathcal{M}으로 한 스텝 전진시킨다.

xk(j)=M ⁣(xk−1(j))+wk(j)\mathbf{x}^{(j)}_{k} = \mathcal{M}\!\left(\mathbf{x}^{(j)}_{k-1}\right) + \mathbf{w}^{(j)}_k

여기가 EnKF의 우아함이 드러나는 지점이다. 선형화도, 자코비안도, 접선 모델도 필요 없다. 그냥 전산유체역학 솔버든 기상 모델이든 있는 그대로 멤버 NN번 돌리면 된다. 게다가 이 NN번은 서로 독립이라 병렬 컴퓨팅으로 완벽하게 흩뿌려진다.

3.2. 분석 단계[편집]

관측 z\mathbf{z}가 들어오면, 앙상블에서 뽑은 표본공분산으로 칼만 이득 K\mathbf{K}를 만들고 각 멤버를 갱신한다.

xk(j),a=xk(j),f+K(zk+ϵ(j)−H xk(j),f)\mathbf{x}^{(j),a}_{k} = \mathbf{x}^{(j),f}_{k} + \mathbf{K}\left(\mathbf{z}_k + \boldsymbol{\epsilon}^{(j)} - H\,\mathbf{x}^{(j),f}_{k}\right)

칼만 이득의 형태는 표준 칼만 필터와 똑같지만, 그 안의 P\mathbf{P}가 앙상블 표본공분산이라는 점만 다르다. 갱신을 마치면 멤버들의 새 표본공분산이 저절로 줄어들어 있다 — 관측으로 불확실성이 감소하는 칼만 필터의 정신이 앙상블 수준에서 자동으로 재현되는 것이다.

4. 섭동 관측과 결정론적 변종[편집]

위 식에서 각 멤버의 관측에 서로 다른 잡음 ϵ(j)\boldsymbol{\epsilon}^{(j)}을 더한 것이 눈에 띌 것이다. 이것을 섭동 관측(perturbed observations) 혹은 확률적 EnKF라 한다. 모든 멤버에 똑같은 관측을 먹이면 갱신 후 앙상블의 퍼짐이 실제보다 작게 눌려 필터가 과신하게 되는데, 관측에 통계적으로 올바른 잡음을 뿌려 이 문제를 막는다.2

이 인위적 잡음이 못마땅한 사람들을 위해, 잡음 없이 표본공분산을 정확히 맞추는 결정론적 변종도 있다. 앙상블 변환 칼만 필터(ETKF), EAKF 등을 묶어 제곱근 필터(square-root filter) 계열이라 부르며, 특이값 분해나 촐레스키 분해로 앙상블을 변환한다. 오늘날 기상 현업의 상당수가 이 계열을 쓴다.

5. 유한 앙상블의 저주: 국소화와 팽창[편집]

멤버가 무한하면 EnKF는 정확하지만, 현실은 N∼100N \sim 100이다. 이 유한성에서 두 가지 고질병이 나오고, 실무 EnKF의 절반은 이걸 달래는 일이다.

  • 가짜 원거리 상관(spurious correlations): 표본이 적으니 실제로는 무관한 먼 두 지점 사이에 우연한 상관이 생긴다. 그대로 두면 지구 반대편 관측이 여기 상태를 흔든다. 대책은 거리에 따라 상관을 강제로 0으로 죽이는 **국소화(localization)**다. 통계적으로 켕기지만 안 하면 안 돌아간다.
  • 앙상블 붕괴(filter collapse): 갱신을 반복하면 앙상블의 퍼짐이 실제 오차보다 작게 쪼그라들어 필터가 관측을 씹기 시작한다. 이를 막으려 매 사이클 앙상블을 인위적으로 조금씩 부풀리는 **공분산 팽창(inflation)**을 건다.

국소화 반경과 팽창 계수는 결국 손으로 맞추는 노브다. 칼만 필터가 Q\mathbf{Q}, R\mathbf{R} 두 노브짜리 장치라면, EnKF는 거기에 노브 두 개가 더 붙는 셈이다.3

6. 어디에 쓰나[편집]

EnKF의 본진은 **자료동화(data assimilation)**다. 수치예보 모델은 초기조건에 극도로 민감한데(나비-스토크스의 카오스), 관측은 듬성듬성하다. EnKF는 6시간마다 예보 앙상블과 새 관측을 섞어 다음 사이클의 초기장을 만든다. 사실상 불확실성 정량화를 매 사이클 실전으로 돌리는 것. 해양·지구물리, 석유공학의 저류층 이력 정합(history matching), 그리고 역문제 관점에서 미지 파라미터를 상태에 끼워 추정하는 데까지 폭넓게 쓰인다. 순수 추정을 넘어 최적화 용도로 변형한 앙상블 칼만 역산(EKI)도 활발한 갈래다.

7. 관련 문서[편집]

8. Footnotes[편집]

  1. 에벤센은 원래 해양 모델의 자료동화를 하다가 확장 칼만 필터(EKF)의 공분산 전파가 비선형에서 폭발하는 걸 보고 EnKF를 고안했다. 재밌게도 초기 논문의 공분산 정규화 계수가 틀렸다는 게 나중에 지적됐고, 본인이 1998년에 정정했다. 대가도 처음엔 틀린다는 위로가 되는 일화. ↩

  2. 이 섭동 관측이 추가적인 표본 잡음을 들여온다는 비판이 결정론적 필터가 나온 직접적 동기다. “잡음을 없애려고 잡음을 넣는다”는 게 확률적 EnKF의 아이러니이자 약점. ↩

  3. 그래서 현업에서는 EnKF를 “국소화 반경 튜닝이 8할”이라고 표현하기도 한다. 이론은 몬테카를로로 깔끔한데 막상 돌리면 반경과 팽창을 하염없이 만지작거리게 되는, 칼만 필터 집안의 유전병이다. ↩