1. 개요[편집]
| 적분-발화 모형 Integrate-and-Fire Model | |
|---|---|
| 기원 | Louis Lapicque (1907) |
| 기본형 | τm dV/dt = −(V − Vrest) + R·I, V ≥ Vth → V ← Vreset |
| 변수 수 | 1개(LIF) ~ 2개(AdEx, QIF 계열) |
| 주요 확장 | EIF(2003) · AdEx(Brette–Gerstner 2005) · 이자케비치(2003) |
| 수치 쟁점 | 클록 구동의 O(Δt) 발화시각 오차, 발화 개시부 강성 |
| 비교 대상 | 호지킨-헉슬리 모형(정밀·비쌈) ↔ 발화율 모형(쌈·스파이크 없음) |
적분-발화 모형(integrate-and-fire model)은 신경세포의 막전위를 역치에 닿을 때까지 입력 전류를 적분하다가, 닿는 순간 스파이크를 하나 찍고 막전위를 강제로 리셋하는 방식으로 기술하는 신경 모형 부류다. 활동전위의 파형 자체는 풀지 않고 “언제 났는지”만 남긴다는 것이 이 모형의 전부이자 존재 이유다.
이 두 줄 중 위는 그냥 RC 회로이고 아래는 미분방정식이 아니라 불연속 리셋 규칙이다. 이 비대칭 — 매끄러운 흐름 + 조건부 점프 — 이 적분-발화 모형을 하이브리드 동역학계로 만들고, 뒤에서 볼 수치적 골칫거리를 전부 만들어낸다.1
이런 조악한 근사를 지금도 쓰는 이유는 계산 비용이다. 호지킨-헉슬리 모형이 뉴런 하나에 4변수 강성 ODE를 요구하는 반면 LIF는 변수 하나에 스텝당 산술 연산 몇 개면 끝난다. 대뇌 피질 규모(수십만~수백만 뉴런)의 스파이킹 신경망 시뮬레이션이 워크스테이션에서 돌아가는 것은 순전히 이 덕분이다.
2. 누설 적분-발화 모형[편집]
전류원 하나가 붙은 막을 저항 과 축전기 의 병렬 회로로 보면 시간상수 가 나온다. 피질 뉴런에서 대략 10~20 ms 수준. 누설항 이 있어 누설(leaky) 적분-발화, 줄여서 LIF라고 부른다.
누설을 빼면(perfect IF) 막은 들어온 전하를 영원히 기억해서, 아무리 작은 전류도 기다리기만 하면 발화한다. 실제 뉴런은 그렇지 않고 약한 입력은 새어 나가 버린다. 그래서 LIF에는 기저 전류(rheobase) 라는 문턱이 생기고, 이보다 작은 정상 전류로는 영원히 발화하지 못한다. 누설 하나가 “역치가 있는 소자”라는 성질을 만들어 주는 셈이다.
3. f–I 곡선과 불응기[편집]
상수 전류 를 주면 리셋에서 역치까지 걸리는 시간을 해석적으로 적분할 수 있다. 으로 두고 불응기 를 강제 대기시간으로 붙이면
교과서에 실릴 만큼 깔끔한 몇 안 되는 신경 모형 공식이다. 성질도 읽어 낼 만하다. 이면 로그가 발산해 이므로 발화율이 0에서 연속적으로 올라오는 제1형 흥분성이고, 이면 로 포화한다. 불응기가 없으면 발화율이 무한대로 발산하므로, 는 생물학적 사실이기 이전에 모형을 유계로 만드는 장치다.
문제는 이 우아함이 곧 한계라는 것. LIF의 역치 아래 동역학은 완전히 선형이라 (1) 스파이크 개시의 급격함을 못 그리고, (2) 적응(adaptation)이나 버스팅 같은 발화 패턴을 전혀 못 내고, (3) 고주파 입력에 대한 응답이 실제 뉴런보다 훨씬 둔하다. 역치를 상수로 고정한 것도 실제와 다르다.
4. 식구들 — EIF, AdEx, QIF, 이자케비치[편집]
**지수 적분-발화(EIF)**는 나트륨 채널의 급격한 활성화를 지수항 하나로 흉내 낸다.
는 스파이크 개시의 날카로움을 정하는 기울기 인자로, 실측에 맞추면 1 mV 안팎으로 아주 작다. 이면 LIF로 되돌아간다. 이 항 때문에 가 유한 시간에 발산하므로 역치가 따로 필요 없고, 코드에서 쓰는 컷오프 전압은 물리적 역치가 아니라 단지 리셋을 걸 지점이다. EIF는 LIF가 못 잡던 고주파 응답 특성을 제대로 재현한다.
**적응형 지수 적분-발화(AdEx)**는 브레트와 게르스트너(2005)가 EIF에 느린 적응 전류 를 붙인 2변수 모형이다.
리셋도 두 개다: , . 변수 하나와 파라미터 네댓 개가 늘었을 뿐인데 지속 발화, 적응 발화, 초기 버스팅, 주기적 버스팅, 지연 발화 등 실측에서 보이는 발화 패턴 대부분을 낼 수 있다. 국제 단일뉴런 모델링 경진대회에서 실제 스파이크 시각 예측 성능이 좋게 나오면서 표준 자리를 굳혔다.
**이차 적분-발화(QIF)**와 이자케비치 모형은 같은 뿌리에서 나왔다. 지수 대신 을 쓰면 안장-마디 분기를 통해 정지상태를 잃는 제1형 흥분성계의 표준형이 정확히 얻어지고(변수 변환하면 세타 뉴런과 동일), 발화율은 문턱 근처에서 를 따른다. 즉 QIF는 발명된 게 아니라 분기 이론에서 유도된 모형이다. 여기에 회복 변수를 붙인 것이 이자케비치(2003)의 2변수 모형으로, 네 개의 파라미터 만 돌려서 20가지 가까운 피질 뉴런 발화 유형을 재현한다. 스텝당 연산량이 HH의 100분의 1 수준이라 대규모 망 시뮬레이션에서 애용된다.2
5. 수치적분 — 클록 구동과 이벤트 구동[편집]
여기서부터가 심위키에 이 문서가 있는 이유다. 적분-발화 모형의 수치오차는 ODE 적분오차가 아니라 역치 교차 시각을 언제 알아채느냐에서 나온다.
클록 구동(clock-driven) 방식은 고정 스텝 로 전진하면서 격자점마다 를 검사한다. 실제 교차는 격자점 사이 어딘가에서 일어나는데 발화 시각을 격자점으로 반올림하니 스파이크 시각 오차가 , 게다가 항상 늦는 쪽으로 편향된다. 무서운 건 이 오차가 ODE 적분기의 차수와 무관하다는 점이다. 내부에 4차 룽게-쿠타법을 넣어도 망 전체의 정확도는 1차로 주저앉는다.3 뉴런들이 스파이크로 서로 연결된 망에서는 이 시각 오차가 다음 뉴런의 입력 시각 오차로 전파되어 동기화 상태 같은 집단 현상을 정성적으로 왜곡하기도 한다.
고치는 방법은 알려져 있다. 교차가 검출된 스텝에서 역치 교차 시각을 보간하고(선형, 또는 RK의 dense output/에르미트 보간), 정확히 그 시각에 리셋을 걸어 나머지 구간을 다시 적분한 뒤, 그 스텝 안의 스파이크들을 시간 순서대로 처리한다. 이렇게 하면 적분기 차수가 회복된다.
이벤트 구동(event-driven) 방식은 아예 격자를 버린다. LIF는 역치 아래 동역학이 선형이라 다음 입력까지의 궤적을 닫힌 형태로 쓸 수 있고, 지수형 시냅스까지는 다음 발화 시각을 (반복법 몇 번으로) 정확히 구할 수 있다. 그러면 시뮬레이션 비용이 가 아니라 스파이크 개수에만 비례하고 발화 시각은 기계 정밀도까지 정확해진다. 이벤트 구동 시뮬레이션 특유의 우선순위 큐가 그대로 쓰인다. 한계도 명확한데, 역치 아래 흐름이 해석적으로 풀리고 다음 교차 시각을 계산할 수 있어야만 성립한다. EIF·AdEx는 비선형이라 해당되지 않고, 실무 시뮬레이터는 보통 하이브리드로 간다.
6. 강성, 그리고 실전 요령[편집]
EIF·AdEx의 지수항은 가 작을수록 발화 개시 구간에서 를 순식간에 몇 자릿수 키운다. 전형적인 강성 방정식 상황이고, 고정 스텝으로 밀면 한 스텝 만에 가 오버슈트해 inf/NaN 으로 날아간다. 대책은 셋 정도다. 적응 스텝 RK를 쓰거나, 컷오프 전압에 하드 클램프를 걸거나, 개시 구간에만 스텝을 잘게 나눈다.
반대로 역치 아래 구간은 선형이라는 성질은 이득으로 바꿀 수 있다. LIF의 선형 부분은 지수 전파자로 정확히 적분되므로(), 시냅스가 시간불변 선형계로 모형화되는 한 시냅스 입력이 없는 구간을 오차 없이 건너뛸 수 있다. 지수 적분기의 신경 시뮬레이션판이고, NEST 같은 시뮬레이터의 기본 전략이다.
7. 비용-충실도 축에서의 자리[편집]
| 모형 | 상태변수 | 스파이크 | 대략 비용 | 주 용도 |
|---|---|---|---|---|
| 호지킨-헉슬리 모형 | 4 (+공간이면 케이블 방정식) | 파형까지 | 기준의 100배 | 이온 채널·약물 효과 |
| AdEx / 이자케비치 | 2 | 시각만 | 기준의 2~3배 | 발화 패턴이 필요한 망 |
| LIF | 1 | 시각만 | 기준 | 대규모 망, 이론 해석 |
| 발화율 모형 | 집단당 1 | 없음 | 무시 가능 | 평균장, 인지 모형 |
피츠휴-나구모 모형이 HH를 정성적으로 축약해 위상평면을 보여 주는 쪽이라면, 적분-발화 계열은 정량적 스파이크 시각을 싸게 얻는 쪽이다. 축약의 방향이 다르다. 그리고 LIF가 이론적으로 사랑받는 결정적 이유가 하나 더 있는데, 확산 근사를 쓰면 무작위 입력을 받는 LIF 집단이 확률미분방정식과 포커-플랑크 방정식으로 정확히 기술되어 망 전체의 발화율을 해석적으로 계산할 수 있다는 점이다. 스파이크를 포기하지 않으면서 평균장 이론이 가능한 거의 유일한 지점이라, 균형 흥분-억제 망 이론이 전부 이 위에 서 있다.4
8. 관련 문서[편집]
- 호지킨-헉슬리 모형 · 활동전위 · 케이블 방정식
- 피츠휴-나구모 모형 · 흥분성 매질 · 극한 순환
- 강성 방정식 · 지수 적분기 · 룽게-쿠타법
- 분기 이론 · 안장-마디 분기 · 호프 분기
- 확률미분방정식 · 랑주뱅 동역학
- 스파이킹 신경망 · 심층 학습
9. Footnotes[편집]
-
라피크의 1907년 논문은 흔히 인용되는 것과 달리 “적분-발화 모형”을 지금 형태의 ODE + 리셋으로 쓰지는 않았다. 개구리 신경에 전류를 흘려 자극 세기-지속시간 곡선을 재고 막을 RC 회로로 모형화한 것이 실제 내용이며, 리셋 규칙을 붙인 현대적 정식화는 훨씬 나중이다. 100년 넘게 인용되는 논문의 절반은 이런 식으로 인용된다. ↩
-
다만 이자케비치 모형은 수치적으로 꽤 거친 물건이다. 원 논문 코드가 ms 오일러에 만 반 스텝 두 번 밟는 방식이라, 스텝을 줄이면 오히려 발화 패턴이 달라지는 경우가 있다. “파라미터가 적분 스킴과 함께 튜닝돼 있다”는 뜻이므로, 적분기를 바꿀 거면 파라미터 재보정을 각오해야 한다. ↩
-
“RK4 썼는데 왜 1차예요?”는 이 분야의 통과의례 질문이다. 답은 오차가 흐름이 아니라 이벤트 검출에서 나오기 때문. 비슷한 함정이 충돌 감지, 접촉, 상변화 등 상태 전이가 있는 모든 하이브리드계에 똑같이 존재한다. ↩
-
스파이크를 버리면 계산은 싸지지만 스파이크 타이밍 부호화, 동기화, 진동 같은 현상은 통째로 사라진다. 반대로 HH로 전부 풀면 정확하지만 망 규모가 세 자릿수 줄어든다. 어느 축약을 고를지는 결국 “무엇을 설명하려는가”의 문제이며, 이건 난류 모델링에서 RANS와 LES 중 무엇을 고를지와 완전히 같은 종류의 결정이다. ↩