시스템 식별

1. 개요[편집]

시스템 식별 System Identification
입력	측정된 입력 u(t)·출력 y(t) 시계열
출력	동적 모델(전달함수·상태공간·차분방정식)
대표 방법	예측오차법(PEM) · 부분공간법(N4SID)
모델 클래스	ARX · ARMAX · OE · Box–Jenkins · 상태공간
전제	지속 여기(persistent excitation)된 입력
표준 참고	Ljung, System Identification (1987)

시스템 식별(system identification)은 시스템의 측정된 입출력 데이터로부터 그 동적 거동을 재현하는 수학적 모델을 추정하는 방법론이다. 물리 법칙을 처음부터 세워 모델을 만드는 화이트박스 방식 대신, 데이터가 시스템에 대해 무엇을 말하는지를 통계적으로 뽑아낸다. 한 마디로 “블랙박스에 신호를 넣고 나오는 것을 보며 그 속을 역추적하는” 공학이다.

핵심 긴장은 이렇다. 모델은 데이터를 잘 설명해야 하지만(적합), 측정잡음까지 외워서는 안 된다(과적합). 그래서 시스템 식별은 모델 구조 선택 → 파라미터 추정 → 검증의 순환이며, 이 순환은 통계적 회귀·제어이론·신호처리가 만나는 지점에 놓인다.¹ 제어기를 설계하려면 플랜트 모델이 있어야 하고, 그 모델을 실험으로 얻는 것이 시스템 식별이므로, 현대 제어공학의 절반은 사실상 여기서 시작한다.

2. 문제 설정[편집]

이산시간에서 가장 일반적인 선형 모델은 다항식 연산자로 쓴다. 지연 연산자 $q^{-1}$($q^{-1}u(t)=u(t-1)$)에 대해

$$A(q)\,y(t) \;=\; \frac{B(q)}{F(q)}\,u(t-n_k) \;+\; \frac{C(q)}{D(q)}\,e(t)$$

가 이른바 일반 선형 모델이고, 어느 다항식을 살리고 죽이느냐로 표준 모델 클래스가 갈린다.

모델	형태	잡음 모형	성질
ARX	$A y = B u + e$	잡음이 극점을 공유	추정이 선형 최소제곱(닫힌 해)
ARMAX	$A y = B u + C e$	이동평균 잡음	제어 설계에 흔함, 비선형 추정
OE	$y = (B/F)u + e$	출력에만 잡음	편향 없는 플랜트 추정
Box–Jenkins	$y=(B/F)u+(C/D)e$	플랜트·잡음 독립 파라미터화	가장 일반적, 추정 어려움

여기서 ARX만이 파라미터에 대해 선형이라 회귀행렬을 세워 최소자승법으로 한 번에 푼다. 회귀벡터가 과거 출력·입력으로 이루어지므로

$$y(t) = \varphi(t)^\top\theta + e(t), \qquad \varphi(t)=[-y(t{-}1),\dots,u(t{-}1),\dots]^\top$$

이 되고, $\hat\theta = (\Phi^\top\Phi)^{-1}\Phi^\top Y$ 로 끝난다. 나머지 모델은 잡음이 회귀식에 얽혀 들어가 반복 최적화가 필요하다. ARX의 값싼 닫힌 해와 편향 없는 OE/BJ의 정확성 사이의 절충이 모델 클래스 선택의 핵심 고민이다.

3. 예측오차법 (PEM)[편집]

시스템 식별의 통일된 골격이 예측오차법(prediction error method)이다. 모델이 한 스텝 앞을 예측한 값 $\hat y(t\mid\theta)$ 와 실제 관측의 차이(예측오차) $\varepsilon(t,\theta)=y(t)-\hat y(t\mid\theta)$ 를 정의하고, 그 제곱합을 최소화한다.

$$\hat\theta = \arg\min_\theta \frac{1}{N}\sum_{t=1}^{N}\varepsilon(t,\theta)^2$$

잡음이 가우시안이면 이것은 최대우도추정과 일치하고, 규칙성 조건 아래 일치성·점근 정규성을 갖는다는 것이 링(Ljung)의 표준 이론이다. ARX는 이 최소화가 이차식이라 닫힌 해로 떨어지지만, ARMAX·BJ는 예측기가 잡음 다항식에 비선형적으로 의존해 가우스-뉴턴류 반복으로 푼다. 국소최소에 빠질 수 있어 좋은 초기값(대개 ARX 추정)에서 출발하는 것이 실무의 국룰이다.

4. 부분공간법 (N4SID)[편집]

상태공간 모델

$$x(t{+}1)=Ax(t)+Bu(t)+w(t),\qquad y(t)=Cx(t)+Du(t)+v(t)$$

을 반복 최적화 없이 선형대수만으로 뽑아내는 계열이 부분공간법(subspace method)이다. 대표가 반 오버스히·더 무어(1994)의 N4SID다. 발상은 이렇다 — 미래 출력을 과거 입출력에 사영하면 그 결과의 열공간이 확장 가관측 행렬(extended observability matrix)의 상을 이룬다. 이 행렬(블록 한켈 행렬)을 특이값 분해하면 유의미한 특이값의 개수가 곧 시스템 차수를 알려 주고, 특이벡터에서 상태열을 복원한 뒤 $(A,B,C,D)$ 를 최소제곱으로 얻는다.

장점이 뚜렷하다. 차수 결정과 파라미터 추정이 한 번의 SVD로 동시에 되고, 초기값도 국소최소도 없으며, MIMO(다입력·다출력)로 자연스럽게 확장된다. PEM만큼 통계적으로 최적은 아니지만, PEM의 초기 모델을 만드는 워밍업으로 쓰거나 차수를 가늠하는 용도로 널리 쓰인다. 이 “미래를 과거에 사영해 지배적 부분공간을 뽑는” 발상은 동적 모드 분해와 사촌지간이다 — 둘 다 데이터 행렬의 저차원 구조로 선형 동역학을 복원한다.

5. 지속 여기 — 입력이 나쁘면 모델도 나쁘다[편집]

식별의 성패는 절반이 입력 설계에서 갈린다. 시스템의 모든 모드를 흔들어 깨우지 못하는 입력으로는, 아무리 좋은 알고리즘도 그 모드를 알 수 없다. 이 조건을 지속 여기(persistent excitation)라 부른다.

정량적으로, 차수 $n$ 의 모델을 유일하게 식별하려면 입력의 스펙트럼이 최소 $n$ 개의 서로 다른 주파수에서 0이 아니어야 한다(정보행렬 $\Phi^\top\Phi$ 가 정칙이어야 한다는 것과 같은 말). 그래서 계단 입력 하나로는 저주파 이득 정도밖에 못 얻고, 실무에서는 넓은 대역을 고루 때리는 PRBS(의사무작위 이진열)나 처프(chirp), 다중정현파를 쓴다. 정보가 없는 데이터에서 모델을 짜내려는 시도는 곧장 과적합으로 처벌받는다 — 흔들리지 않은 모드의 파라미터는 잡음을 맞추는 데 쓰이기 때문이다.²

6. 검증 — 적합이 아니라 예측을 보라[편집]

추정이 끝나면 반드시 모델이 보지 않은 데이터로 검증한다. 훈련구간의 적합도가 좋은 것은 아무것도 보장하지 않는다(차수를 올리면 적합은 언제나 좋아진다).

• 교차 검증적 예측. 별도 검증 데이터에서 여러 스텝 앞을 시뮬레이션해 실제 출력과 비교한다.
• 잔차 분석. 예측오차 $\varepsilon(t)$ 가 백색(자기상관 없음)이고 입력과 무상관이면, 남길 구조가 없다는 뜻이라 모델이 충분하다. 잔차에 자기상관이 남으면 잡음 모형이, 입력과 상관이 남으면 플랜트 모형이 부족한 것이다.
• 정보기준. 차수 선택은 AIC·BIC로 적합도와 복잡도를 저울질한다 — 이것이 시스템 식별에서 과적합을 통제하는 표준 손잡이다.

7. 그레이박스와 블랙박스[편집]

식별은 사전지식을 얼마나 넣느냐로 스펙트럼을 이룬다.

• 블랙박스. 물리적 의미 없이 데이터 적합만 노린다. ARX·상태공간의 일반형이 여기 속하며, 예측이 목적이면 충분하다.
• 그레이박스. 물리 모델의 구조(미분방정식의 형태)는 알지만 계수(질량·강성·감쇠·열전달계수)는 모를 때, 그 계수만 데이터로 추정한다. 파라미터가 물리적 의미를 가져 해석 가능하고, 미지수가 적어 데이터 효율이 좋다.
• 화이트박스. 모든 것을 제1원리로 세운다 — 이건 사실상 식별이 아니라 모델링이다.

8. 인접 분야와의 연결[편집]

시스템 식별은 여러 분야에서 다른 이름으로 재발견된다.

• 상태 추정. 칼만 필터는 모델을 알 때 상태를 추정하고, 시스템 식별은 상태(와 모델)를 모를 때 모델을 추정한다. 둘을 동시에 하는 것이 결합 추정이며, 파라미터를 상태에 붙여 확장하는 방식이 흔하다.
• 구조 모드 식별. 진동 데이터에서 고유진동수·모드형상·감쇠를 뽑는 실험 모드 해석·작동 모드 해석이 그대로 시스템 식별이다. 여기서 얻은 모델로 유한요소 모델을 손보는 것이 모델 갱신이다.
• SLAM·로보틱스. 로봇이 자기 위치와 환경 지도를 동시에 추정하는 것도 넓게는 동적 모델 추정이다.
• 데이터 기반 축소 모델. 동적 모드 분해·오퍼레이터 추론이 유체·다물리 시뮬레이션 데이터에서 저차 선형 동역학을 식별하는, 시스템 식별의 과학계산판 후예다.

9. 관련 문서[편집]

• 최소자승법 · 최대우도추정 · 특이값 분해
• 칼만 필터 · 앙상블 칼만 필터 · 입자 필터
• 동적 모드 분해 · 모델 갱신 · 모드 해석
• 최적 제어 · 모델 예측 제어
• 과적합 · 지상진동시험

10. Footnotes[편집]

1. 링(Lennart Ljung)의 명언이 이 바닥의 태도를 요약한다 — “모든 모델은 틀렸지만 어떤 것은 유용하다”(Box의 말이지만 식별 교과서가 즐겨 인용한다). 시스템 식별은 참 시스템을 찾는 일이 아니라, 의도한 용도에 충분히 좋은 근사를 찾는 일이다. 그래서 “이 모델이 맞나요”가 아니라 “이 모델로 뭘 하려는데요”가 먼저다. ↩

2. 현장에서 “데이터는 많은데 모델이 안 나온다”는 하소연의 태반이 지속 여기 부족이다. 공장 정상운전 데이터는 대개 좁은 대역에서만 움직여서, 페타바이트를 모아도 흔들지 않은 모드는 여전히 미지수다. “일단 데이터부터 많이”라는 빅데이터식 직관이 동적 시스템에서 배신하는 대표적 지점이며, 그래서 좋은 실험 하루가 나쁜 로그 1년을 이긴다. ↩