능동 센싱

통계 최적설계 마지막 수정: 2026-08-24 04:23:11

1. 개요[편집]

능동 센싱 Active Sensing / Active Perception
바뀌는 것	관측을 받는다 → 관측을 고른다
대표 목적함수	상호정보량 $I(X;Z_a)$ = 기대 엔트로피 감소
고전 정식화	베이지안 실험설계 (Lindley 1956) · D/A/E-최적
엄밀한 정식화	신념 공간 위의 POMDP
실무 근사	근시안 탐욕 — 부분모듈성이면 $1-1/e$ 보장
무대	next-best-view · 능동 SLAM · 적응 실험 · 능동 학습

통계학 교과서의 절반은 “자료가 주어졌을 때”로 시작한다. 현실의 절반은 “그 자료를 누가 돈 내고 찍는가”에서 시작한다.

능동 센싱(active sensing)은 관측을 수동적으로 받아들이는 대신, 다음에 어떤 관측을 할지를 현재의 불확실성에 근거해 스스로 고르는 문제다. 카메라를 어디로 돌릴지, 다음 실험을 어느 조건에서 할지, 센서를 어느 방에 달지, 그리고 지금 측정을 한 번 더 할지 그만둘지 — 형태는 달라도 구조가 같다. 관측 자체가 비용을 갖는 결정 변수가 되는 순간, 추정 문제는 결정 문제로 바뀐다.

이름은 분야마다 다르다. 로보틱스에서는 능동 지각·next-best-view·능동 탐사, 통계에서는 실험계획법의 순차판, 기계학습에서는 능동 학습, 제어에서는 이중 제어(dual control). 목적함수를 어떻게 쓰느냐만 다를 뿐 뼈대는 하나다.

2. 무엇을 최대화하는가 — 정보이득[편집]

가장 자연스러운 목적은 “이 관측을 하고 나면 얼마나 덜 헷갈릴까”다. 미지의 양 $X$ , 후보 행동 $a$ 가 만들어 낼 관측 $Z_a$ 에 대해

I(X; Z_a) = H(X) - \mathbb{E}_{Z_a}\!\left[H(X \mid Z_a)\right]

가 기대 엔트로피 감소이고 곧 상호정보량이다. 여기서 조심할 점은 기댓값의 위치다. 관측이 나오기 전이므로 $Z_a$ 의 실현값을 모르고, 따라서 사후 엔트로피를 아직 보지 못한 관측의 예측분포로 평균해야 한다. 실제로 “관측을 받고 나면 엔트로피가 줄어든다”는 보장은 없다 — 놀라운 관측은 엔트로피를 올릴 수 있다. 줄어드는 것은 어디까지나 기댓값이다.¹

같은 양을 쿨백-라이블러 발산으로 쓰면 린들리(1956)의 기대 정보이득이 된다. 사전분포에서 사후분포로 가면서 벌어진 거리를 관측분포로 평균한 것이고, 베이지안 실험설계의 표준 효용이다.

U(a) = \mathbb{E}_{Z_a}\Big[\,D_{\mathrm{KL}}\big(p(x \mid z_a) \,\|\, p(x)\big)\Big]

3. 선형-가우시안의 특례 — D-최적과 A-최적[편집]

일반적으로 위 기댓값은 이중 적분이라 계산이 고약한데, 모형이 선형이고 잡음이 가우시안이면 닫힌 식이 나온다. 관측 $z = \mathbf{X}\beta + \epsilon$ 의 정보행렬이 $\mathbf{M} = \mathbf{X}^\top \mathbf{X}/\sigma^2$ 일 때 사후 공분산은 $\mathbf{M}^{-1}$ 이고, 가우시안 엔트로피가 $\tfrac12 \log \det \mathbf{\Sigma} + \text{const}$ 이므로 정보이득 최대화는 $\det \mathbf{M}$ 최대화와 같아진다. 이것이 D-최적 설계다. 여기서 $\mathbf{M}$ 이 곧 피셔 정보이고, $\mathbf{M}^{-1}$ 이 크라메르-라오 하한이라는 사실이 셋을 한 줄로 꿰맨다.

기준	최적화 대상	기하학적 의미
D-최적	$\det \mathbf{M}$ 최대	신뢰타원체의 부피 최소
A-최적	$\operatorname{tr} \mathbf{M}^{-1}$ 최소	분산의 평균 최소
E-최적	$\lambda_{\min}(\mathbf{M})$ 최대	가장 나쁜 방향을 개선
G-최적	최대 예측분산 최소	예측 성능의 최악값 방어

셋은 서로 다른 답을 준다. D-최적은 부피만 보므로 한 방향이 극단적으로 길쭉해도 다른 방향들이 짧으면 만족하고, E-최적은 정확히 그 길쭉한 방향을 잡으러 간다. 어느 것을 쓸지는 통계가 아니라 공학이 정한다 — 파라미터 전체를 골고루 알고 싶으면 A, 최악의 불확실성이 무서우면 E다. 비선형 모형에서는 $\mathbf{M}$ 이 참 파라미터에 의존해서 “알고 싶은 것을 알아야 설계할 수 있다”는 순환이 생기고, 국소 최적설계(현재 추정값에서 선형화)나 사전분포로 평균한 베이지안 최적설계로 푼다. 순차적으로 돌리면 이 순환이 자연스레 풀린다 — 어차피 매 스텝 추정값이 갱신되니까.

4. 근시안 근사가 왜 통하는가 — 부분모듈성[편집]

원칙적으로 능동 센싱은 미래 전체를 내다봐야 한다. 지금 정보가 적어 보이는 관측이 다음 관측의 가치를 열어줄 수 있기 때문이다. 그런데 실무 코드의 대부분은 한 스텝만 보고 최선을 고르는 근시안(myopic) 탐욕이다. 그리고 놀랍게도 대개 잘 돌아간다. 왜인가.

답의 한 조각이 부분모듈성(submodularity)이다. 관측 집합 $A$ 에 대한 효용 $F(A)$ 가 수확체감

F(A \cup \{a\}) - F(A) \;\ge\; F(B \cup \{a\}) - F(B), \qquad A \subseteq B

를 만족하면(이미 많이 알수록 새 관측 하나의 가치가 작다 — 정보에서는 지극히 자연스럽다), 그리고 $F$ 가 단조 증가이고 $F(\emptyset)=0$ 이면, 예산 $k$ 개를 고르는 탐욕 알고리즘이 최적해의 $1 - 1/e \approx 0.632$ 배 이상을 보장한다. 네무하우저–울시–피셔(1978)의 고전이다.² 즉 근시안 탐욕이 게을러서가 아니라 정리가 있어서 쓰는 것이다.

다만 정직하게 말하면 조건이 만만치 않다.

엔트로피 $H(Z_A)$ 는 부분모듈이고 단조라서 보장이 그대로 적용된다. 문제는 이 기준이 “서로 가장 안 닮은 곳”을 고르는 바람에 센서를 자꾸 영역 경계로 몰아넣는다는 것이다. 관심 있는 것은 센서끼리의 놀라움이 아니라 미관측 지점의 예측인데도.
상호정보량 $I(X_{V \setminus A}; Z_A)$ 는 이 문제를 고치지만, 단조가 아니다(센서를 다 채우면 이득이 0으로 되돌아온다). 크라우제·싱·게스트린(2008)이 이산화 격자를 충분히 촘촘히 하면 근사적 단조성이 성립해 $(1-1/e)-\varepsilon$ 보장이 남는다는 것을 보였다.
순차·적응 상황(앞 관측 결과를 보고 다음을 고름)은 집합 선택이 아니다. 이쪽은 적응 부분모듈성(Golovin & Krause, 2011)이라는 별도의 조건 아래서 적응 탐욕에 같은 $1-1/e$ 가 붙는다.
예산 제약이 개수가 아니라 이동 비용이면(로봇이 돌아다니며 측정) 그 순간 순회 판매원 문제가 얹혀서 보장 구조가 통째로 달라진다.

그리고 부분모듈성이 깨지는 무대도 분명히 있다. 정보가 정보를 여는 구조 — 문을 열어야 방이 보이고, 등대를 봐야 자기 위치를 알고 그다음 관측이 의미를 갖는 상황 — 에서는 수확체감이 성립하지 않고 근시안 탐욕이 문 앞에서 얼어붙는다. 이때는 다음 절로 간다.

5. 엄밀한 정식화 — 신념 공간 위의 POMDP[편집]

능동 센싱을 제대로 쓰면 POMDP다. 상태는 알 수 없고, 행동이 상태와 관측 둘 다에 영향을 주며, 최적 정책은 신념 $b$ 의 함수다. 마르코프 결정 과정의 벨만 백업을 신념 공간에서 돌리면 원리적으로 다단계 최적 센싱 계획이 나온다.

여기에 기술적 걸림돌이 하나 있다. 표준 POMDP의 보상은 상태의 함수라서 가치함수가 신념에 대해 조각별 선형 볼록(PWLC)이 되고, 그 성질이 모든 정확·근사 해법의 토대다. 그런데 엔트로피나 정보이득은 신념의 비선형 함수다. 그래서 이 부류를 따로 $\rho$ -POMDP라 부르고, 볼록 함수를 조각별 선형으로 아래에서 근사하면 기존 해법을 되살릴 수 있다는 것이 알려져 있다. 실무에서는 여기까지 가는 대신 신념을 가우시안으로 눌러 공분산 전파만 계획하거나(신념 공간 계획), 몬테카를로 롤아웃으로 몇 스텝만 내다본다.

한 가지 개념적 구분은 짚어야 한다. 정보이득 자체는 최종 목적이 아니다. 로봇의 목적은 물건을 옮기는 것이고 위치를 아는 것은 수단이다. 정보를 보상에 직접 넣으면 “알기 위해 아는” 정보 수집광 정책이 나오기 쉽다. 원칙적으로 옳은 처방은 정보가 아니라 결정의 기대 손실 감소(value of information)를 목적으로 두는 것이고, 정보이득은 그것의 계산 가능한 대리물이다.

6. 최적 정지 — 언제 그만 볼 것인가[편집]

“어디를 볼까”만큼 중요한 것이 “그만 볼까”다. 관측마다 비용 $c$ 가 들고 정보이득은 수확체감하므로, 어느 시점부터는 한 번 더 재는 것이 손해다. 정지 규칙의 고전이 발트의 순차 확률비 검정(SPRT)이다. 가설 두 개의 우도비를 누적하다가 위·아래 문턱을 넘으면 즉시 결론을 내고, 그 사이면 표본을 하나 더 받는다. 주어진 오류율에서 평균 표본 수가 최소임이 증명돼 있는데, 이 최적성이 능동 센싱에 던지는 메시지는 명확하다 — 표본 수를 미리 정하는 고정 설계는 대부분 낭비다.

일반적으로는 “한 스텝 더 보는 것의 기대 이득 < 비용”이면 정지하는 근시안 규칙을 쓴다. 이것도 근시안이라 최적은 아니고, 여러 관측을 묶어야 비로소 결정이 뒤집히는 상황에서 너무 일찍 멈춘다. 다중 슬롯머신의 탐색-활용 문제와 뿌리가 같은데, 결정적 차이는 밴딧에서는 관측이 곧 보상(팔을 당기면 돈이 나온다)이고 능동 센싱에서는 관측이 순수 비용이라는 점이다.

7. 어디에 쓰이는가[편집]

Next-best-view. 3D 스캐닝에서 다음 시점을 고르는 문제. 미관측 복셀의 가시성을 세는 고전적 기준(Connolly, 1985)부터 점유 확률의 기대 엔트로피 감소를 광선별로 적분하는 방식까지 계보가 길다. 결과물이 메시 생성으로 넘어가므로 “구멍 없는 표면”이 실질 목표가 된다.
능동 SLAM·탐사. 지도의 엔트로피와 자세의 엔트로피를 동시에 줄이는 경로를 고른다. 미탐사 영역으로 나가면 지도 정보가 늘지만 자세 불확실성이 쌓이고, 이미 본 곳으로 돌아오면(loop closure) 자세는 좋아지지만 새 지도는 없다 — 이 절충이 이 문제의 전부다. 신념이 다봉이면 엔트로피 하나로 요약하는 것 자체가 위험하다는 점은 몬테카를로 위치추정 쪽 사정과 같다.
적응 실험·시뮬레이션 설계. 계산이 비싼 해석을 어느 조건에서 돌릴지 고르는 문제. 대리 모델의 예측분산이 큰 곳을 채우는 적응 표집이 전형이며, 목적이 “함수 전체를 잘 알기”에서 “최댓값 찾기”로 바뀌면 그대로 베이지안 최적화가 된다. 실제로 EI·UCB 같은 획득함수는 능동 센싱 목적함수의 사촌이다.
능동 학습. 라벨링 예산이 빠듯할 때 어떤 표본에 라벨을 달지 고른다. 불확실성 표집·질의 위원회·기대 모형 변화가 표준 삼총사. 함정도 유명하다 — 탐욕적으로 고르면 거의 같은 표본이 무더기로 뽑히므로(배치 다양성 문제) 부분모듈적 다양성 항을 따로 넣어야 하고, 모형이 나쁜 초기에는 선택 자체가 편향돼 스스로 만든 표집 편향에 갇힌다.
센서 배치. 상수도관의 오염 감지, 건물의 온도 센서, 공정의 계측점. 예산 $k$ 개 아래의 부분모듈 최대화가 정확히 이 무대이며, 위의 $1-1/e$ 가 실제로 쓰이는 몇 안 되는 자리다.

8. 관련 문서[편집]

이 구분을 놓치면 “정보이득이 음수가 나왔는데요?” 하는 버그 리포트가 올라온다. 개별 관측의 사후 엔트로피는 사전보다 클 수 있다. 상호정보량은 그 평균이라 항상 0 이상일 뿐이다. 인생과 비슷해서, 평균적으로는 배우지만 특정 날짜에는 더 혼란스러워진다. ↩
Nemhauser, Wolsey, Fisher (1978). 그리고 파이지(1998)가 집합 덮개 문제에서 이 $1-1/e$ 가 $\mathrm{P} \neq \mathrm{NP}$ 아래 개선 불가능임을 보였다. 즉 탐욕이 최적에 못 미치는 것이 게을러서가 아니라 그 이상이 원리적으로 어렵다는 뜻이다. 알고리즘 하나에 이보다 좋은 알리바이는 드물다. ↩