실험계획법

편집 역사 토론
통계 최적설계 시뮬레이션 마지막 수정: 2026-07-17 04:47:52

1. 개요[편집]

실험계획법(Design of Experiments, DOE)은 여러 입력 인자가 있을 때 어떤 조건들을 골라 실험할 것인가를 통계적으로 설계해, 최소한의 시행으로 최대한의 정보를 얻어내는 방법론이다. 한 번에 하나씩 바꿔보는 인간의 본능적 접근(OFAT, One-Factor-At-a-Time)이 왜 멍청한지를 수학적으로 증명하고 대안을 제시하는 분야라고 봐도 된다.

핵심 통찰은 이거다. OFAT는 실험 횟수도 많이 쓰면서 인자 간 교호작용(interaction)을 원리적으로 볼 수 없다. 온도를 혼자 올려봤을 때와 압력이 높은 상태에서 온도를 올렸을 때 결과가 다르다면, OFAT는 그 사실을 영원히 모른다. 인자들을 동시에 흔드는 설계만이 교호작용을 잡아낸다.1

시뮬레이션 시대에도 DOE는 죽지 않았다. 오히려 대리 모델을 학습시킬 샘플점을 어디에 찍을지 결정하는 일이 곧 DOE이고, 민감도 해석의 전역 버전도 결국 DOE 위에서 돌아간다. 해석 한 케이스에 며칠 걸리는 전산유체역학 문제라면 샘플 하나하나가 실험실 시편만큼 비싸다.

2. 기본 원리[편집]

R. A. 피셔가 1920년대 로담스테드 농업시험장에서 정립한 세 가지 원칙이 지금도 그대로 통한다.

  • 랜덤화(randomization) — 실험 순서를 무작위로. 시간에 따라 슬금슬금 변하는 미지의 요인(장비 예열, 작업자 피로)이 특정 인자와 엮여 착시를 만드는 걸 막는다.
  • 반복(replication) — 같은 조건을 여러 번. 순수 오차(pure error)를 추정해야 “이 차이가 진짜인가 노이즈인가”를 판정할 수 있다.
  • 블록화(blocking) — 통제 불가능하지만 알고는 있는 변동 요인(원료 로트, 요일)을 블록으로 묶어 그 영향을 모형에서 분리해낸다.

여기에 **직교성(orthogonality)**이 더해진다. 인자들의 열이 서로 직교하도록 조건을 배치하면 각 인자의 효과 추정이 독립적으로 이루어져 분산이 최소가 된다. 수치해석 하는 사람이라면 조건수를 떠올리면 정확하다. 설계행렬 X\mathbf{X} 가 직교면 XTX\mathbf{X}^T\mathbf{X} 가 대각행렬이 되어 최소자승법 추정이 깔끔해진다.

β^=(XTX)1XTy,Var(β^)=σ2(XTX)1\hat{\boldsymbol{\beta}} = (\mathbf{X}^T \mathbf{X})^{-1} \mathbf{X}^T \mathbf{y}, \qquad \mathrm{Var}(\hat{\boldsymbol{\beta}}) = \sigma^2 (\mathbf{X}^T \mathbf{X})^{-1}

즉 실험 설계란 (XTX)1(\mathbf{X}^T\mathbf{X})^{-1} 을 예쁘게 만드는 일이다. 통계가 아니라 선형대수 문제였던 것.

3. 주요 설계 유형[편집]

설계실험 수주 용도교호작용
완전요인 2k2^k2k2^k소수 인자 정밀 분석전부 추정
부분요인 2kp2^{k-p}2kp2^{k-p}스크리닝일부 교락
플래킷-버만k+1\approx k+1대량 스크리닝추정 불가
중심합성설계(CCD)2k+2k+nc2^k + 2k + n_c2차 곡면 적합전부 추정
박스-벤켄요인당 중간2차, 극단점 회피전부 추정
라틴 하이퍼큐브임의전산 실험모형 의존

부분요인설계는 실험 수를 절반, 4분의 1로 줄이는 대신 일부 효과가 서로 **교락(confounding)**된다. 예컨대 2512^{5-1} 설계에서는 어떤 2인자 교호작용이 3인자 교호작용과 구분되지 않는다. 고차 교호작용은 대개 무시할 만하다는 **효과 희박성 원리(sparsity of effects)**에 기대는 도박이며, 대부분의 경우 이 도박은 이긴다.2

**반응표면법(RSM)**은 스크리닝으로 살아남은 소수 인자에 대해 2차 모형을 적합해 최적점을 찾는 단계다.

y=β0+iβixi+iβiixi2+i<jβijxixj+εy = \beta_0 + \sum_{i} \beta_i x_i + \sum_{i} \beta_{ii} x_i^2 + \sum_{i<j} \beta_{ij} x_i x_j + \varepsilon

이 2차 모형이 사실상 초저가 대리 모델이며, 여기서 기울기 0인 점을 찾는 게 곧 최적화다.

4. 전산 실험의 DOE[편집]

물리 실험과 시뮬레이션 사이에는 결정적인 차이가 하나 있다. 시뮬레이션은 결정론적이라 같은 입력에 같은 출력이 나온다. 반복해봐야 똑같은 숫자만 나오므로 피셔의 반복 원칙이 무의미해지고, 랜덤화도 딱히 의미가 없다. 오차의 원천이 측정 노이즈가 아니라 모형 편향이기 때문이다.

그래서 전산 실험(Design and Analysis of Computer Experiments, DACE)은 다른 걸 추구한다. **공간 채움(space-filling)**이다.

  • 라틴 하이퍼큐브 샘플링(LHS) — 각 인자 축을 nn 등분해 모든 구간에 정확히 하나씩만 점이 들어가도록 배치. 투영 성질이 좋아 중요하지 않은 인자가 섞여 있어도 유효 샘플을 잃지 않는다. 다만 순수 LHS는 운 나쁘면 점들이 대각선에 몰릴 수 있어 maximin 기준 등으로 최적화해 쓴다.
  • 소볼 수열 / 저불일치 수열 — 준몬테카를로 계열. 점을 순차적으로 추가해도 균등성이 유지되는 게 장점.
  • 최적 설계(D-optimal 등) — 모형을 가정하고 det(XTX)\det(\mathbf{X}^T\mathbf{X}) 를 최대화하는 점들을 고른다. 설계 영역이 제약으로 찌그러졌을 때 표준 설계를 쓸 수 없으므로 이쪽으로 온다.
  • 적응 샘플링 — 일단 조금 뿌리고, 대리 모델이 자신 없어 하는 곳에 다음 점을 추가한다. 베이지안 최적화의 획득함수(acquisition function)가 이 아이디어의 정점이다.

5. 현업에서의 현실[편집]

  • 인자가 12개라고 하면 일단 플래킷-버만으로 3~4개로 줄이고 시작한다. 나머지 8개는 대개 통계적으로 아무것도 아니다. 파레토 원리는 여기서도 유효하다.
  • DOE 표를 짜서 넘기면 “왜 이런 이상한 조합으로 실험하냐”는 소리를 듣는다. 직교성을 설명하는 데 실험보다 오래 걸린다.
  • 인자 범위를 너무 좁게 잡으면 효과가 노이즈에 묻히고, 너무 넓게 잡으면 모델이 안 돌거나 시편이 터진다. 범위 설정이 설계 유형 선택보다 중요하다.
  • 다구치 방법은 국내 제조 현장에서 여전히 강력한 브랜드지만, 통계학계에서는 교호작용 처리와 SN비의 근거에 대해 오래 두들겨 맞았다. 쓰되 한계는 알고 쓰는 게 좋다.3

6. 관련 문서[편집]

7. Footnotes[편집]

  1. 피셔가 이 분야를 만든 계기가 “차에 우유를 먼저 넣었는지 나중에 넣었는지 맞힐 수 있다”고 주장한 어느 부인 때문이라는 일화(Lady Tasting Tea)는 유명하다. 피셔는 그걸 비웃는 대신 검정 절차를 설계했고, 부인은 여덟 잔을 다 맞혔다고 전해진다. 데이터 앞에서 겸손해야 하는 이유.

  2. 해상도(resolution)라는 지표로 도박의 위험도를 표시한다. Resolution III는 주효과가 2인자 교호작용과 엉키므로 스크리닝 전용, Resolution V쯤 되면 2인자 교호작용까지 안심하고 볼 수 있다. 로마 숫자를 쓰는 이유는 딱히 없다. 그냥 전통이다.

  3. 그래도 다구치가 대중화한 “잡음인자에 둔감한 설계(robust design)” 개념 자체는 통계학계도 인정하는 진짜 기여다. 최적점이 절벽 끝에 있으면 공정 산포가 조금만 있어도 추락한다는 것 — 이건 최적설계 하는 사람이라면 뼈에 새겨야 할 교훈이다.