평면파 기저

편집 역사 토론
계산물리 양자역학 계산화학 마지막 수정: 2026-07-19 04:31:09
상위 문서: 기저함수

1. 개요[편집]

평면파 기저
Plane-wave basis set
대상주기 경계 조건을 갖는 계
유일한 수렴 파라미터컷오프 에너지 Ecut
필수 짝꿍유사퍼텐셜 / PAW
핵심 연산고속 푸리에 변환
대표 코드VASP, Quantum ESPRESSO, ABINIT, CASTEP

분자 하는 사람은 원자에 함수를 붙인다. 고체 하는 사람은 상자 전체에 파동을 깐다. 그리고 서로를 이해하지 못한다.

평면파 기저(plane-wave basis set)는 주기적 경계 조건을 갖는 계의 전자 파동함수를, 역격자 벡터 G\mathbf{G}로 지수화되는 평면파 ei(k+G)⋅re^{i(\mathbf{k}+\mathbf{G})\cdot\mathbf{r}}의 유한 합으로 전개하는 기저함수 체계다. 원자 위치에 매달린 국소 함수(가우시안·슬레이터형)와 달리 공간 어디에도 편향되지 않은 균일한 기저라는 점이 모든 장단점의 뿌리다.

출발점은 블로흐 정리다. 주기 퍼텐셜 속 전자의 고유상태는 격자 주기성을 갖는 함수와 평면파의 곱으로 쓸 수 있고, 그 주기 함수를 다시 푸리에 전개하면 다음 꼴이 된다.

ψnk(r)=1Ω∑Gcn,k+G  ei(k+G)⋅r\psi_{n\mathbf{k}}(\mathbf{r}) = \frac{1}{\sqrt{\Omega}}\sum_{\mathbf{G}} c_{n,\mathbf{k}+\mathbf{G}}\; e^{i(\mathbf{k}+\mathbf{G})\cdot\mathbf{r}}

여기서 Ω\Omega는 단위셀 부피, k\mathbf{k}는 첫 브릴루앙 영역 안의 파수벡터다. 즉 평면파 기저는 “고체에서는 이렇게 쓰는 게 정확하다”가 아니라, 애초에 블로흐 정리가 요구하는 자연스러운 전개다. 밀도범함수이론과 콘-샴 방정식을 고체에 적용하는 코드의 절대다수가 이 기저를 쓰는 이유.

2. 컷오프 에너지: 노브가 하나뿐인 축복[편집]

기저 크기는 딱 하나의 숫자로 결정된다. 운동에너지가 컷오프 이하인 평면파만 남긴다.

ℏ22m∣k+G∣2≤Ecut\frac{\hbar^2}{2m}\left|\mathbf{k}+\mathbf{G}\right|^2 \le E_{\text{cut}}

이는 역공간에서 반지름 2mEcut/ℏ\sqrt{2mE_{\text{cut}}}/\hbar인 구 안의 격자점을 모두 취한다는 뜻이므로, 평면파 개수는 셀 부피와 컷오프에 대해 다음처럼 늘어난다.

NPW≃Ω2π2(2mEcutℏ2)3/2N_{\text{PW}} \simeq \frac{\Omega}{2\pi^2}\left(\frac{2mE_{\text{cut}}}{\hbar^2}\right)^{3/2}

이 “노브 하나”라는 성질이 실무적으로 대단히 크다. 국소 기저에서는 어떤 함수를 몇 개 붙일지, 분극·확산 함수를 넣을지 같은 이산적이고 예술에 가까운 선택을 해야 하는데, 평면파는 EcutE_{\text{cut}}을 올리기만 하면 기저가 체계적으로, 그리고 변분적으로 단조롭게 완전기저에 접근한다. 수렴 테스트가 “컷오프 400, 500, 600 eV 돌려보고 에너지 차이 보기”로 끝난다.1 게다가 기저가 원자에 붙어 있지 않으므로 원자끼리 서로의 함수를 빌려 쓰는 기저중첩오차(BSSE)가 원리적으로 존재하지 않는다.

값은 보통 수백 eV(= 수십 Ry) 규모이며, 실제로는 쓰는 유사퍼텐셜이 권장하는 값에서 시작해 30~50% 여유를 두는 것이 관례다.

3. 유사퍼텐셜 없이는 성립하지 않는다[편집]

평면파의 치명적 약점은 핵 근처다. 진짜 원자 파동함수는 핵 부근에서 급격히 진동하고(직교성 때문에 마디를 갖는다) 첨점(cusp)을 갖는데, 매끄러운 사인파의 합으로 이런 특징을 재현하려면 컷오프가 천문학적으로 커진다. 산소 1s 궤도를 순수 평면파로 표현하려 들면 필요한 평면파 수가 실용 범위를 한참 벗어난다.

그래서 평면파 기저는 사실상 항상 코어 처리 기법과 짝지어 쓴다.

  • 노름 보존 유사퍼텐셜: 코어 전자를 제거하고 원자가 파동함수를 코어 영역에서 마디 없이 매끄럽게 만든다. 컷오프가 급감한다.
  • 울트라소프트 유사퍼텐셜(Vanderbilt): 노름 보존 조건까지 포기하고 파동함수를 더 부드럽게 만든 뒤, 잃어버린 전하를 증강 전하(augmentation charge)로 되돌린다. 컷오프를 절반 이하로 떨어뜨린다.
  • PAW 방법(projector augmented wave): 매끄러운 유사 파동함수와 진짜 전전자 파동함수 사이의 선형 변환을 명시적으로 정의한다. 정확도는 전전자에 가깝고 비용은 울트라소프트급이라, 현대 계산의 기본값이 되었다.

바꿔 말하면 평면파 기저의 실효 정확도는 기저 자체가 아니라 어떤 유사퍼텐셜/PAW 데이터셋을 썼는가에 크게 좌우된다. 논문 재현성 논의에서 코드보다 퍼텐셜 데이터셋이 더 자주 도마에 오르는 이유다.2

4. 이중 격자와 FFT[편집]

평면파의 진짜 무기는 계산 구조다. 해밀토니안의 두 항이 각각 다른 공간에서 대각(diagonal)이 된다.

  • 운동에너지 항: 역공간에서 그냥 ∣k+G∣2/2|\mathbf{k}+\mathbf{G}|^2/2 곱하기. 완전 대각.
  • 국소 퍼텐셜 항: 실공간에서 그냥 V(r)ψ(r)V(\mathbf{r})\psi(\mathbf{r}) 곱하기. 완전 대각.

그러니 해밀토니안을 벡터에 작용시킬 때 행렬을 만들 필요가 전혀 없다. 역공간 계수를 고속 푸리에 변환으로 실공간 격자로 보내고, 퍼텐셜을 곱하고, 다시 역변환하면 끝이다. 비용은 O(Nlog⁡N)O(N \log N). 이 구조 덕분에 NPWN_{\text{PW}}가 수십만이어도 감당된다.

H^ψ=F−1 ⁣[V(r) F[ψ]]+12∣k+G∣2ψ\hat{H}\psi = \mathcal{F}^{-1}\!\left[V(\mathbf{r})\,\mathcal{F}[\psi]\right] + \tfrac{1}{2}|\mathbf{k}+\mathbf{G}|^2 \psi

여기서 주의할 점이 이중 격자다. 파동함수는 컷오프 EcutE_{\text{cut}}까지 담지만, 전자밀도 ρ=∣ψ∣2\rho = |\psi|^2는 곱셈이므로 푸리에 성분이 두 배 멀리까지 뻗는다. 따라서 밀도·퍼텐셜용 격자는 4Ecut4E_{\text{cut}}에 해당하는 더 촘촘한 격자를 쓴다. VASP의 ENCUT과 ENAUG, Quantum ESPRESSO의 ecutwfc와 ecutrho가 각각 이 둘이며, 울트라소프트/PAW에서는 증강 전하 때문에 후자를 8~12배까지 키워야 하는 경우가 있다.

행렬을 만들지 않으므로 대각화도 직접 하지 않는다. 필요한 것은 최저 몇백 개의 고유값뿐이니, 데이비드슨이나 RMM-DIIS, 켤레기울기 같은 반복적 부분공간 기법을 쓴다. 고유값 문제와 크리로프 부분공간법의 전형적 적용 사례다.

5. k점 샘플링[편집]

평면파 기저는 각 k\mathbf{k}마다 독립적인 문제를 만든다. 총 에너지나 전자밀도는 브릴루앙 영역 전체에 대한 적분이므로, 이를 유한 개의 k\mathbf{k}점 합으로 근사해야 한다.

ρ(r)=∑n∫BZdk(2π)3 fnk∣ψnk(r)∣2\rho(\mathbf{r}) = \sum_{n}\int_{\text{BZ}} \frac{d\mathbf{k}}{(2\pi)^3}\, f_{n\mathbf{k}} \left|\psi_{n\mathbf{k}}(\mathbf{r})\right|^2

균등 격자를 쓰는 몽코스트-팩 격자(Monkhorst–Pack)가 표준이며, 대칭성을 이용해 기약 영역(IBZ)의 점만 계산한다. 여기서 실무 감각이 갈린다. 절연체는 밴드가 매끄럽게 채워져 있어 성긴 k점으로도 수렴하지만, 금속은 페르미면에서 점유수가 불연속으로 끊기기 때문에 k점을 훨씬 촘촘히 깔아야 하고, 점유수를 인위적으로 뭉개는 스미어링(가우시안, 페르미-디랙, 메스펠-팩스턴)을 함께 쓴다. 셀이 커지면 역격자가 작아져 필요한 k점 수는 줄어든다 — 슈퍼셀 계산에서 Γ\Gamma점 하나만 쓰는 것이 정당화되는 근거다.

6. 대가: 진공은 공짜가 아니다[편집]

균일 기저의 저주는 여기서 나온다. 평면파는 셀 전체를 채우므로, 아무것도 없는 진공에도 똑같은 밀도로 기저가 깔린다.

  • 분자·표면 계산: 주기적 이미지끼리의 상호작용을 없애려면 진공층을 10 Å 이상 넣어야 하는데, 그 부피만큼 평면파 수가 늘어난다. 고립 분자 하나 계산하는 데 국소 기저 코드보다 훨씬 비싸질 수 있다. 슬랩(slab)의 쌍극자 상호작용은 별도의 쌍극자 보정으로 막는다.
  • 하전 계면: 주기계는 전체 전하가 0이어야 하므로, 이온·결함 계산에서는 균일한 배경 전하(jellium)를 깔고 나중에 유한 크기 보정을 해준다. 익숙해지기 전까지 실수 1순위.
  • 국소화된 상태: 전이금속 3d나 란타넘족 4f처럼 좁게 뭉친 궤도는 높은 컷오프를 요구한다.
  • 셀 최적화의 풀레이 응력: 셀 부피가 바뀌면 EcutE_{\text{cut}} 조건을 만족하는 평면파 집합 자체가 변한다. 기저가 좌표에 의존하니 응력 텐서에 풀레이 응력(Pulay stress)이라는 계통 오차가 생긴다. 대응은 두 가지 — 컷오프를 넉넉히(권장값의 1.3배 이상) 올리거나, 최적화된 셀에서 같은 컷오프로 한 번 더 계산해 정합시키는 것이다.3
  • 화학적 해석의 부재: 평면파에는 “이 함수는 탄소의 p 궤도”라는 라벨이 없다. 그래서 상태밀도를 원자별로 쪼개거나 전하를 배분하려면 국소 궤도로 사영(projection)하는 후처리를 따로 해야 한다.

7. 관련 문서[편집]

8. Footnotes[편집]

  1. 이 단순함 때문에 고체 계산 입문자가 가장 먼저 배우는 습관이 “컷오프 수렴 그래프 그리기”다. 반대로 분자 양자화학 쪽 사람에게 “기저를 숫자 하나로 정한다”고 하면 대체로 못 믿는 표정을 짓는다. 서로 다른 문명이다. ↩

  2. 실제로 여러 코드가 같은 물질에 대해 얼마나 일치된 상태방정식을 내놓는지 대규모로 비교한 국제 공동연구가 있었고, 결론은 “잘 만든 PAW/유사퍼텐셜을 쓰면 전전자 코드와 실용적으로 구분이 안 될 만큼 일치한다”였다. 즉 문제는 방법론이 아니라 데이터셋 품질이었다. ↩

  3. 셀 최적화를 기본 컷오프로 돌린 뒤 부피가 몇 % 어긋나 있는 걸 뒤늦게 발견하는 것은 이 바닥의 통과의례다. 매뉴얼에 다 적혀 있지만 아무도 처음엔 읽지 않는다. ↩