바나흐 공간

수치해석 마지막 수정: 2026-08-23 04:16:40

1. 개요[편집]

바나흐 공간 Banach Space
정의	노름이 있고 그 노름에 대해 완비인 벡터공간
명명	스테판 바나흐 (1920 학위논문, 1932 저서)
대표 예	ℓ^p · L^p(Ω) · C[a,b] · W^k,p(Ω) · 유계연산자 공간
네 기둥	한-바나흐 · 균등유계 · 열린 사상 · 닫힌 그래프
힐베르트와의 차이	평행사변형 법칙이 성립하지 않는다 = 직교가 없다
수치해석에서	"수렴한다"는 문장이 의미를 갖는 최소 무대

각도는 포기했다. 대신 길이와, 극한이 도망가지 않는다는 약속만 남겼다.

바나흐 공간(Banach space)은 노름 $\|\cdot\|$ 이 정의되어 있고 그 노름이 유도하는 거리에 대해 완비인 벡터공간이다. 즉 코시 수열이면 반드시 그 공간 안의 원소로 수렴한다. 조건이 이것뿐이다 — 힐베르트 공간에서 내적을 떼어 내고 남은 것이라고 봐도 된다.

내적 하나를 뺐을 뿐인데 잃는 것이 꽤 크다. 직교가 정의되지 않으니 사영 정리가 죽고, 사영 정리가 죽으니 “부분공간으로의 최적 근사”가 유일하다는 보장도, 오차를 직교분해하는 피타고라스도 사라진다. 그런데도 수치해석이 바나흐 공간을 버리지 못하는 이유는 실제로 다뤄야 하는 공간 대부분이 힐베르트가 아니기 때문이다. 최대오차를 재는 $C[a,b]$ 도, 총변동을 재는 $\mathrm{BV}$ 도, 압축센싱의 $\ell^1$ 도, 스파스 해를 재는 어떤 노름도 내적에서 나오지 않는다. 그리고 무엇보다, “이산화가 수렴한다”는 문장 자체가 완비성 위에서만 뜻을 갖는다. 극한이 공간 밖으로 새어 나가면 무엇으로 수렴한다는 말인지 물을 수가 없다.¹

2. 완비성이 조건인 이유 — 예와 반례[편집]

노름공간이 완비인지 아닌지는 공간과 노름의 짝에 달려 있다. 같은 함수 집합에 다른 노름을 얹으면 결과가 뒤집힌다.

공간 + 노름	완비?	메모
$\ell^p$ , $1\le p\le\infty$	○	$p=2$ 만 힐베르트
$L^p(\Omega)$ , $1\le p\le\infty$	○	$p=2$ 가 리스-피셔(1907), 일반 $p$ 는 리스(1910). 르베그 적분이 필수
$C[a,b]$ + 최대노름	○	균등수렴의 극한은 연속
$C[a,b]$ + $L^2$ 노름	✗	계단함수로 수렴하는 코시열이 있다
$C^1[a,b]$ + 최대노름	✗	톱니로 수렴 — 도함수가 안 따라온다
다항식 전체 + 최대노름	✗	완비화가 $C[a,b]$ (바이어슈트라스)
$W^{k,p}(\Omega)$	○	소볼레프 공간, $p=2$ 만 힐베르트
$Y$ 가 바나흐일 때 유계연산자 $B(X,Y)$	○	연산자 노름. 유도 노름 참조

마지막 줄이 실용적으로 제일 자주 쓰인다. 연산자들의 공간이 다시 바나흐 공간이므로, 이산화 연산자 열 $\{S_h\}$ 이나 반복 행렬 $\{M^k\}$ 을 “점” 취급해 수렴을 논할 수 있다. 노이만 급수 $(I-M)^{-1}=\sum_k M^k$ 가 $\|M\|<1$ 에서 수렴한다는 익숙한 사실도, 절대수렴하는 급수가 수렴한다는 완비성의 따름정리다 — 실은 “절대수렴 ⇒ 수렴”이 노름공간의 완비성과 동치다.

3. 힐베르트와 갈라지는 지점 — 평행사변형 법칙[편집]

노름이 어떤 내적에서 나왔는지는 시험 한 줄로 판정된다. 요르단과 폰 노이만(1935)이 증명한 것인데,

\|x+y\|^2 + \|x-y\|^2 = 2\|x\|^2 + 2\|y\|^2

가 모든 $x,y$ 에 대해 성립하면, 그리고 오직 그때만 그 노름은 내적에서 유도된다. 내적은 편극 항등식으로 노름에서 되뽑을 수 있다.

$\ell^p$ 에 $x=e_1,\ y=e_2$ 를 넣어 보면 상황이 즉시 드러난다. $\|x\pm y\|_p = 2^{1/p}$ 이므로 좌변은 $2\cdot 2^{2/p}$ , 우변은 $4$ . 등식이 되려면 $2/p+1=2$ , 즉 $p=2$ 뿐이다. $\ell^1$ 이나 $\ell^\infty$ 에서 “직교”라는 단어를 쓰고 싶어지는 순간이 있다면 그건 착각이라는 뜻이고, 실제로 바나흐 공간에서 최근접점은 존재하지 않을 수도, 여러 개일 수도 있다.²

이 차이가 수치해석에서 나타나는 자리는 명확하다.

최적 근사가 유일하지 않다. $L^\infty$ 근사(체비쇼프 근사)에서 최적 다항식의 유일성은 공간이 힐베르트라서가 아니라 하르 조건이라는 별도의 구조 덕분이다. 그래서 계산도 정규방정식 한 번이 아니라 레메즈 교환 알고리즘이라는 반복법으로 한다.
갤러킨이 최적이 아니다. 잔차를 직교시킨다는 아이디어 자체가 내적을 전제한다. 비힐베르트 무대에서는 갤러킨 방법 대신 최소잔차나 안정성 조건(inf-sup)을 따로 세워야 한다.
에너지 노름이 없다. 오차를 “위에서 감싸는” 신뢰할 만한 노름 하나로 통일하기 어려워지고, 사후 오차 추정자의 신뢰도-효율 상수가 노름 선택에 붙어 다닌다.

4. 네 기둥[편집]

바나흐 공간 이론의 뼈대는 정리 네 개다. 셋은 베어 범주 정리에서, 하나는 초른의 보조정리에서 나온다.

4.1. 한-바나흐 정리[편집]

부분공간 위에 정의된 유계 선형범함수는 노름을 키우지 않고 전체 공간으로 확장된다(한 1927, 바나흐 1929). 따라 나오는 것이 결정적이다 — 임의의 $x\neq0$ 에 대해 $f(x)=\|x\|$ , $\|f\|=1$ 인 범함수가 존재하고, 따라서

\|x\| = \sup_{\|f\|_{X^*}\le 1} |f(x)|

가 성립한다. 노름을 쌍대 쪽에서 다시 잴 수 있다는 이 사실이 사실상 모든 쌍대 논법의 출발점이다. 볼록집합 분리 정리(초평면으로 가른다)가 여기서 나오고, 그 위에 쌍대성·선형계획법의 쌍대 문제·서포트 벡터 머신의 마진 논증이 얹힌다. 압축센싱에서 “쌍대 인증서(dual certificate)를 구성하면 $\ell^1$ 최소해가 유일하다”고 말할 때의 그 인증서도 한-바나흐가 존재를 보장하는 범함수다.

4.2. 균등유계 원리 (바나흐-슈타인하우스)[편집]

$\{T_\alpha\}\subset B(X,Y)$ 가 점마다 유계면( $\sup_\alpha\|T_\alpha x\|<\infty$ for each $x$ ), 균등하게 유계다( $\sup_\alpha\|T_\alpha\|<\infty$ ). 1927년 결과이고, 수치해석에서 가장 자주 쓰이는 기둥이 이것이다. 대우로 읽는 것이 요령이다 — 연산자 노름이 무한대로 발산하면, 반드시 어떤 입력 하나에서 결과가 발산한다.

락스 등가정리. 잘 놓인 선형 초기값 문제에서 정합적인 도식이 수렴하려면 안정성이 필요하다는 증명의 심장이 바나흐-슈타인하우스다. “불안정한데 어쩌다 맞는 문제만 골라 쓰면 되지 않나”가 원리적으로 불가능한 이유가 여기 있다.
등간격 보간의 발산. 보간 연산자의 노름이 르베그 상수인데, 파버 정리에 따르면 어떤 절점열을 잡아도 르베그 상수는 유계일 수 없다. 그러므로 어떤 절점열에도 보간이 발산하는 연속함수가 존재한다. 등간격에서 특히 극적으로 터지는 것이 룽게 현상이고, 체비쇼프 절점은 상수를 $O(\log n)$ 으로 억눌러 실용적으로 살려 놓은 것이지 정리를 이긴 것이 아니다.
구적법의 수렴. 폴리아의 정리 — 구적 공식열이 모든 연속함수에 대해 수렴할 필요충분조건은 (다항식에 대한 수렴 +) 가중치 절댓값 합이 유계일 것. 가우스 구적이 좋고 고차 뉴턴-코츠가 못 쓰게 되는 이유가 정확히 이 조건이다. 후자는 음의 가중치가 폭발한다.

4.3. 열린 사상 정리와 유계역 정리[편집]

전사인 유계 선형연산자는 열린 사상이고, 따라서 전단사 유계 선형연산자의 역은 자동으로 유계다(바나흐 1929). 공짜로 얻어지는 안정성 추정 $\|x\| \le C\|Ax\|$ 이 이것이다. 순방향이 잘 정의되어 있으면 역방향의 조건수가 유한하다는 보장 — 이라고 읽고 싶어지지만, 진짜 값어치는 대우 쪽에 있다.

무한차원에서 콤팩트 연산자는 유계 역을 가질 수 없다. 만약 가졌다면 항등사상이 콤팩트가 되어 단위구가 콤팩트해지는데, 리스의 보조정리가 그것을 금지한다. 그런데 실무의 역문제 연산자 — 열전도의 시간 역행, 라플라스 변환의 역, 흐릿한 영상의 블러 커널, 중력·전자기 탐사의 순방향 연산자 — 는 거의 전부 콤팩트다. 그래서 역문제는 취향이 아니라 정리에 의해 비정칙이고, 티호노프 정규화 같은 규제가 선택이 아니라 필수가 된다. 이산화하면 유한차원이 되어 형식적으로는 역이 존재하지만, 그 대가는 격자를 세밀하게 할수록 폭발하는 조건수로 정확히 되돌아온다.

4.4. 닫힌 그래프 정리[편집]

$X,Y$ 가 바나흐이고 $T:X\to Y$ 가 선형일 때, 그래프가 닫혀 있으면 $T$ 는 유계다. 실전에서는 유계성을 직접 증명하는 대신 ” $x_n\to x$ 이고 $Tx_n\to y$ 이면 $y=Tx$ ” 만 보이면 되게 해 주는 도구다. 미분 연산자처럼 유계가 아닌 물건을 다룰 때는 이 정리를 정의역을 좁히라는 경고로 읽는다 — $d/dx$ 는 $L^2$ 전체에서 닫힌 그래프를 가질 수 없고, 그래서 정의역을 $H^1$ 로 제한해야 비로소 닫힌 연산자가 된다.

5. 바나흐 고정점 정리와 반복법[편집]

바나흐가 1920년 학위논문(1922년 출판)에서 노름공간의 공리와 함께 내놓은 것이 축약사상 원리다. 완비 거리공간에서 $\|F(x)-F(y)\|\le L\|x-y\|$ , $L<1$ 이면 고정점이 유일하게 존재하고 반복 $x_{k+1}=F(x_k)$ 가 어디서 출발하든 그 점으로 간다.

완비성이 어디에 쓰였는지가 중요하다. 증명은 반복열이 코시열임을 기하급수로 보이는 것이 전부이고, “코시열이니까 수렴한다”는 마지막 한 걸음에만 완비성이 들어간다. 완비가 아니면 극한이 공간 밖으로 도망가서 정리가 통째로 무너진다.

이 하나로 묶이는 수치해석의 목록이 길다 — 피카르 반복에 의한 상미분방정식 해의 존재·유일성(무대가 최대노름을 준 $C[t_0-\delta,t_0+\delta]$ , 즉 바나흐 공간이다), 야코비·가우스-자이델 같은 정상 반복법의 수렴, 음해법의 내부 반복, 뉴턴-랩슨법의 국소 수렴(칸토로비치 정리는 이것을 바나흐 공간판으로 올린 것), 도메인 분할의 슈바르츠 반복까지. 사전 오차한계 $\|x_k-x^*\|\le \frac{L^k}{1-L}\|x_1-x_0\|$ 을 첫 스텝만 보고 뽑아 쓸 수 있다는 점도 실무에서 자주 쓴다. 자세한 것은 바나흐 고정점 정리 문서에 있다.

6. 쌍대공간과 반사성[편집]

유계 선형범함수 전체 $X^*$ 는 (연산자 노름으로) 항상 바나흐 공간이다 — $X$ 가 완비가 아니어도 그렇다. 표준 목록은 이렇다.

(\ell^p)^* \cong \ell^q \ \ \Bigl(\tfrac1p+\tfrac1q=1,\ 1\le p<\infty\Bigr), \qquad (L^p)^* \cong L^q, \qquad C[a,b]^* \cong \text{유한 부호측도}

마지막 줄이 리스-마르코프-가쿠타니 표현 정리이고, “연속함수에 수를 대응시키는 규칙 = 측도로 적분하기”라는 뜻이다. 디랙 델타가 함수가 아니라 측도로 정당화되는 자리가 여기다.

$X$ 를 $X^{**}$ 에 자연스럽게 넣는 사상이 전사이면 반사적(reflexive)이라 한다. $1<p<\infty$ 의 $L^p,\ \ell^p$ , 모든 힐베르트 공간이 반사적이고, $\ell^1,\ \ell^\infty,\ L^1,\ L^\infty,\ C[a,b]$ 는 아니다. $(\ell^1)^*=\ell^\infty$ 는 맞지만 $(\ell^\infty)^*$ 는 $\ell^1$ 보다 훨씬 크다.

반사성이 밥값을 하는 자리는 변분법의 직접법이다. 반사적 공간에서는 유계 수열이 약수렴 부분수열을 갖고(에버라인-슈물리안), 범함수가 약하강반연속이면 최소화자의 존재가 따라온다. 그래서 $H^1$ 이나 $W^{1,p}$ ( $1<p<\infty$ )에서 세운 최소화 문제는 해의 존재가 보장된다. 반대로 $L^1$ · $C$ · $\mathrm{BV}$ 처럼 반사적이지 않은 무대에서는 최소화열의 극한이 공간 밖 — 측도나 진동하는 약극한 — 으로 새어 나갈 수 있다. 위상 최적화의 체커보드와 격자 의존성이 정확히 이 현상의 이산 판이고, 그래서 필터링·둘레 제약·완화(SIMP의 벌점)를 걸어 문제를 반사적 무대로 되돌려 놓는다. 규제가 “수치적 잔재주”가 아니라 존재 정리를 되찾는 조치라는 이야기.³

7. 유한차원 — 모든 노름은 동치, 그런데 상수가 문제다[편집]

유한차원 노름공간에서는 두 정리가 공짜다. 모든 노름이 서로 동치이고(따라서 위상·수렴·연속이 노름 선택과 무관하다), 모든 유한차원 노름공간은 완비다. 그래서 이산화하는 순간 완비성 걱정은 사라진다.

문제는 “동치”가 정성적 진술이라는 것이다. 동치 상수는 차원에 붙어 있다.

\|x\|_2 \le \|x\|_1 \le \sqrt{n}\,\|x\|_2, \qquad \|x\|_\infty \le \|x\|_2 \le \sqrt{n}\,\|x\|_\infty

$n=10^7$ 이면 $\sqrt n \approx 3162$ 다. 격자를 세밀하게 할수록 이 상수가 자라므로, “노름이 어차피 동치니까 아무거나 써도 된다”는 문장은 $h\to0$ 극한에서 거짓이 된다. 실무에서 걸리는 곳이 세 군데다.

조건수는 노름에 의존한다. $\kappa_p(A)=\|A\|_p\|A^{-1}\|_p$ 이고 $p$ 마다 값이 다르다. $\kappa_2$ 와 $\kappa_1$ · $\kappa_\infty$ 는 최대 $n$ 배까지 벌어질 수 있다. LAPACK의 조건수 추정기가 $\kappa_1$ 을 뱉는 것은 그것이 싸기 때문이지 $\kappa_2$ 와 같아서가 아니다. 오차한계를 인용할 때 어느 노름인지 밝히지 않으면 자릿수 몇 개가 조용히 사라진다.
수렴 판정과 잔차 노름. 솔버가 재는 것이 $\|r\|_2$ 인데 공학적으로 의미 있는 것이 $\|r\|_\infty$ 인 상황은 흔하다. 격자가 커질수록 두 값의 비가 벌어지므로, 고정 임계값 $10^{-6}$ 을 격자 크기와 무관하게 쓰면 사실상 판정 기준이 격자마다 달라진다. 함수공간 노름(예: $L^2(\Omega)$ )에 대응시키려면 격자 부피로 스케일링한 $h^{d/2}\|\cdot\|_2$ 를 써야 한다.
무한차원 극한에서 노름 동치는 아예 거짓이다. $L^\infty(\Omega)\subsetneq L^2(\Omega)$ 이고 역포함은 성립하지 않는다. 이산 문제에서 노름을 바꿔도 “괜찮았던” 경험이 연속 문제로 자동 이전되지 않는 이유이며, 유한요소 오차 추정이 $L^2$ · $H^1$ · $L^\infty$ 마다 수렴 차수를 따로 적는 것도 그래서다.

한 줄로: 유한차원에서 모든 노름이 동치라는 정리는 참이지만, 수치해석은 상수가 폭발하는 방향으로 차원을 키우는 학문이라 그 정리에 기대면 안 된다.

8. 관련 문서[편집]

스테판 바나흐는 르비우(당시 폴란드, 현 우크라이나)의 “스코틀랜드 카페”에서 동료들과 문제를 내고 풀며 학파를 만든 것으로 유명하다. 카페 테이블에 분필로 적던 문제들이 지워지자 바나흐의 아내가 공책을 사다 줬고, 그것이 미해결 문제집 스코틀랜드 책(Księga Szkocka)이다. 상금으로 살아 있는 거위가 걸린 문제도 있었는데, 1972년 페르 엔플로가 그 문제(근사 성질)를 부정적으로 해결하고 실제로 거위를 받아 갔다. ↩
그래서 “이 공간에서 직교분해하면” 으로 시작하는 논증을 볼 때는 먼저 노름이 어디서 왔는지 확인하는 습관이 필요하다. $\ell^1$ 최소화 문제에서 “잔차가 사전에 직교하도록” 같은 말이 나오면 그건 매칭 퍼슛의 탐욕 선택이지 사영 정리가 아니다. ↩
존재 정리를 먼저 확인하지 않고 최적화 코드부터 돌리면, 격자를 세밀하게 할수록 목적함수는 좋아지는데 형상은 점점 더 잘게 쪼개지는 결과를 보게 된다. 이건 버그가 아니라 최소화자가 없다는 사실을 솔버가 성실하게 보고하고 있는 것이다. 참고로 이런 문제의 완화는 대개 미세구조(호모지나이제이션)로 이어진다. ↩