격자 수렴 지수

수치해석 전산유체역학 마지막 수정: 2026-07-21 04:43:15

1. 개요[편집]

격자 수렴 지수 Grid Convergence Index
약칭	GCI
제안	1994년, Patrick J. Roache
기반 이론	리처드슨 외삽법
표준화	ASME V&V 20 (Celik et al., 2008)
상위 개념	검증 및 확인 — 솔루션 검증

격자 수렴 지수(Grid Convergence Index, GCI)는 서로 다른 해상도의 격자 3개(또는 최소 2개)에서 얻은 수치해를 이용해, “이 계산의 이산화 오차가 대략 몇 퍼센트인가”를 하나의 숫자로 정량화하는 지표다. 1994년 로치(Patrick J. Roache)가 제안했고, 지금은 ASME V&V 20 표준에 편입되어 전산유체역학·구조해석 논문 심사에서 사실상 “격자 무관성 확인했나요?”에 대한 표준 답안으로 요구된다.¹

GCI의 존재 이유는 단순하다. “격자를 더 촘촘히 했더니 값이 별로 안 바뀌더라”는 말은 감(感)이지 증거가 아니다. GCI는 이 감을 리처드슨 외삽법에 안전계수를 곱한 형태로 표준화해서, 서로 다른 연구자·다른 코드가 내놓은 격자 민감도 보고를 같은 잣대로 비교할 수 있게 만든다. 이 문서는 GCI의 공식과 계산 절차 자체에 집중하며, GCI가 V&V 전체 체계에서 어떤 자리를 차지하는지는 검증 및 확인 문서를 참고할 것 — 두 문서의 역할 분담은 맨 아래 절에서 다시 정리한다.

2. 리처드슨 외삽: 무한 격자로 가는 다리[편집]

이산화 오차는 격자 간격 $h$ 에 대해 보통 거듭제곱 꼴로 줄어든다.

f(h) = f_{\text{exact}} + \alpha h^{p} + O(h^{p+1})

여기서 $p$ 는 이산화 기법의 수렴 차수, $\alpha$ 는 상수다. 서로 다른 두 격자 간격 $h_1 < h_2$ 에서 얻은 해 $f_1, f_2$ 가 있으면, 이 관계식을 연립해서 $h \to 0$ 일 때의 값을 외삽으로 추정할 수 있다 — 이것이 리처드슨 외삽법이다.

f_{\text{exact}} \approx f_1 + \frac{f_1 - f_2}{r^{p} - 1}, \qquad r = \frac{h_2}{h_1}

문제는 이 외삽값이 점 추정치일 뿐 오차 범위를 주지 않는다는 것. “얼마나 확신할 수 있는가”에 답하려면 안전계수를 곱한 GCI가 필요하다.

3. GCI 공식과 안전계수[편집]

세 개의 체계적으로 세분된 격자(조밀 1, 중간 2, 성긴 3, $h_1 < h_2 < h_3$ )에서 얻은 해 $f_1, f_2, f_3$ 가 있다고 하자. 세분 비율은 $r_{21} = h_2/h_1$ , $r_{32} = h_3/h_2$ 다. 관측 수렴 차수 $p$ 는 세 값의 차이로부터 역산한다.

p = \frac{\ln\left| \dfrac{f_3 - f_2}{f_2 - f_1} \right|}{\ln r}

(세분 비율 $r$ 이 격자 사이에서 일정하다고 가정한 단순형. $r_{21} \neq r_{32}$ 인 일반적인 경우는 Celik et al. (2008)의 반복 공식을 쓴다.²) 이 $p$ 를 이용해 조밀 격자(1)에서의 GCI를 다음과 같이 정의한다.

\mathrm{GCI}_{21} = \frac{F_s \, |e_a|}{r^{p} - 1}, \qquad e_a = \frac{f_1 - f_2}{f_1}

$e_a$ 는 조밀 격자와 중간 격자 사이의 상대 근사 오차, $F_s$ 는 안전계수(safety factor)다. Roache는 3개 이상의 격자로 관측 차수 $p$ 까지 확인한 신중한 스터디에는 $F_s = 1.25$ 를, 단 2개 격자만 비교해 이론 차수를 가정하고 넘어가는 약식 스터디에는 $F_s = 3.0$ 을 권고한다. 안전계수가 3배나 차이 나는 이유는 명확하다 — 격자를 겨우 두 개만 찍고 “선형으로 수렴하겠지”라고 가정하는 것은 도박에 가깝기 때문이다.³

수렴이 **점근 영역(asymptotic range)**에 들어왔는지도 확인해야 하는데, 다음 비율이 1에 가까울수록 신뢰할 수 있다.

\frac{\mathrm{GCI}_{32}}{r^{p}\,\mathrm{GCI}_{21}} \approx 1

이 비율이 1에서 크게 벗어나면 격자가 아직 점근 영역에 도달하지 못했다는 뜻이고, 이때는 $p$ 자체를 못 믿는다 — 격자를 더 촘촘히 찍어야 한다.

4. 실무 절차 — 3격자 스터디 예시[편집]

다음은 순전히 절차를 보여주기 위한 가상의 예시다. 항력계수 $C_D$ 를 계산하는 CFD 해석에서 격자 간격 $h_1 < h_2 < h_3$ 을 일정 비율 $r = 1.3$ 으로 세분했다고 하자.

격자	상대 간격	$C_D$
1 (조밀)	$h_1$	0.3125
2 (중간)	$1.3\,h_1$	0.3168
3 (성긴)	$1.69\,h_1$	0.3247

$\varepsilon_{21} = f_2 - f_1 = 0.0043$ , $\varepsilon_{32} = f_3 - f_2 = 0.0079$ 이므로

p = \frac{\ln(0.0079/0.0043)}{\ln 1.3} \approx \frac{0.608}{0.262} \approx 2.32

외삽 값은 $f_{\text{exact}} \approx 0.3125 - 0.0043/(1.3^{2.32}-1) \approx 0.307$ , 그리고

\mathrm{GCI}_{21} = \frac{1.25 \times |0.0043/0.3125|}{1.3^{2.32}-1} \approx 2.1\%

즉 “조밀 격자에서의 항력계수는 대략 ±2.1%의 이산화 오차를 가진다”는 정량적 문장이 나온다. 이 숫자를 논문·보고서에 ” $C_D = 0.3125$ , GCI $= 2.1\%$ ” 형태로 박아두면, 다른 사람이 그 신뢰도를 즉시 판단할 수 있다. “격자가 다 했다”는 자조 섞인 드립도, 사실 이 숫자를 계산해서 뒷받침하지 못하면 그냥 허풍이다.

5. 이 문서와 “검증 및 확인” 문서의 역할 분담[편집]

검증 및 확인 문서는 V&V 전체 체계 — 검증과 확인의 구분, 코드 검증과 솔루션 검증의 위치, 제조해법(MMS), 불확실성 정량화(UQ)까지 아우르는 큰 그림을 다룬다. GCI는 그 안에서 솔루션 검증(solution verification)의 대표 도구로 한 문단 언급될 뿐이다. 반면 이 문서는 그 한 문단의 내용을 실제로 계산할 수 있도록 공식·절차·수치 예시를 풀어놓은 각론이다. “왜 GCI가 필요한가”가 궁금하면 V&V 문서로, “GCI를 어떻게 계산하는가”가 궁금하면 이 문서로 오면 된다.

6. 관련 문서[편집]

Roache, P. J. (1994). “Perspective: A Method for Uniform Reporting of Grid Refinement Studies”. J. Fluids Eng. 116, 405–413. 이 논문 이전에는 각 연구자가 제멋대로 격자 수렴을 보고해서, 리뷰어들이 “그래서 몇 퍼센트인데요?”라고 물으면 대답이 “촘촘히 하니까 비슷해서요” 수준이었다. ↩
Celik, I. B. et al. (2008). “Procedure for Estimation and Reporting of Uncertainty Due to Discretization in CFD Applications”. J. Fluids Eng. 130, 078001. $r_{21} \neq r_{32}$ 인 일반적인 경우, $p$ 는 $p = \frac{1}{\ln r_{21}}\left|\ln|\varepsilon_{32}/\varepsilon_{21}| + q(p)\right|$ 꼴의 음함수 방정식이 되어 반복적으로 풀어야 한다. ASME 심사역들이 사랑하는 각주 지옥이 여기서 시작된다. ↩
안전계수 1.25는 “충분히 신중하게 스터디했다”는 전제 위에 붙는 보너스다. 격자를 대충 두 개만 돌려놓고 안전계수만 1.25로 적어내면, 리뷰어는 그 논문을 신뢰하는 대신 반려 메일부터 쓴다. 국룰: 격자 개수를 아끼면 안전계수가 아니라 신뢰도가 깎인다. ↩