On the synaptic matrix eigenvalues of sparsely connected neural networks

당신의 뇌를 수십억 명의 뉴런이 시민으로서 끊임없이 서로 대화하고, 소리치고, 속삭이는 거대하고 북적이는 도시라고 상상해 보세요. 이 대화는 시냅스라고 불리는 아주 작은 접점에서 일어나며, 여기서 한 뉴런은 다음 뉴런에게 신호를 전달합니다. 이러한 연결의 강도—얼마나 크게 소리치는지 혹은 얼마나 작게 속삭이는지—는 도시가 원활하게 돌아갈지, 혼란스러운 폭동에 빠질지, 아니면 완전히 침묵할지를 결정합니다. 과학자들은 뇌가 어떻게 안정성을 유지하는지 이해하기 위해 이 모든 연결 강도의 지도를 뜻하는 '시냅스 행렬(synaptic matrix)'을 연구합니다. 만약 연결이 너무 강해지거나 불균형해지면, 도시는 발작(통제 불능의 폭동)으로 치닫거나 전면 차단(정전) 상태에 빠질 수 있습니다. 오랫동안 연구자들은 이 도시를 안전하게 유지하는 열쇠가 단순한 규칙에 있다고 믿었습니다. 바로 모든 동네에서 외치는 양(흥분)과 속삭이는 양(억제)의 총합이 완벽하게 상쇄되도록 만드는 것입니다. 그들은 이 '균형 잡기'가 뇌가 통제 불능 상태에 빠지는 것을 막아주는 마법의 방패라고 믿었습니다.

하지만 만약 이 도시가 단순히 무작위적인 군중이 아니라면 어떨까요? 만약 연결이 희소하여(sparse), 대부분의 뉴런이 오직 인접한 이웃들과만 대화하고, 그 대화의 강도가 서로 얼마나 떨어져 있는지에 따라 달라진다면 어떨까요? 이것이 바로 인도 기술대학교 카라푸르(IIT Kharagpur)의 모드 가야스 안사리(Mohd. Gayas Ansari)와 프라기야 슈클라(Pragya Shukla)가 답을 찾고자 했던 질문입니다. 그들은 뇌가 완벽하게 혼합된 수프 같은 연결을 가지고 있다고 가정하는 대신, 실제 뇌의 무질서하고 희소하며 거리 의존적인 현실을 모방한 디지털 신경망 모델을 구축했습니다. 그들은 물었습니다: 만약 네트워크가 특정 동네와 제한된 도달 범위를 가진 실제 도시처럼 구조화되어 있다면, 기존의 '완벽한 균형' 규칙이 여전히 작동할 것인가? 그들의 시뮬레이션 결과는 놀랍게도 "아니오"라는 답변을 내놓았습니다. 그들은 이러한 현실적인 희소 네트워크에서는 평균적인 노이즈를 조절하는 것만으로는 뇌의 불안정을 막기에 충분하지 않다는 것을 발견했습니다. 대신, 연결의 형태 자체—누가 누구와 대화하는지, 그리고 신호가 얼마나 멀리 이동하는지—가 단순한 수지 타산으로는 해결할 수 없는 숨겨진 위험을 만들어낸다는 것을 발견했습니다.

마음의 혼돈을 그리는 지도

저자들이 무엇을 했는지 이해하기 위해, 그들이 사용한 도구들을 살펴보겠습니다. 그들은 조건에 따라 뇌의 안정성이 어떻게 변하는지 확인하기 위해 네 가지 유형의 '시냅스 지도'(신경 연결의 수학적 모델)를 만들었습니다.

먼저, 그들은 **균일한 도시(Uniform City, UCE)**를 살펴보았습니다. 모든 시민이 다른 모든 시민의 전화번호를 가지고 있으며, 통화 음량은 무작위이지만 전반적으로 어디서나 비슷한 도시를 상상해 보세요. 이것은 '밀집된(dense)' 모델입니다. 이 시나리오에서는 기존의 규칙이 작동합니다. 즉, 평균적인 외침과 속삭임을 조절하면 도시는 평온을 유지합니다. 혼돈은 고르게 퍼져 있으며, '균형' 제약 조건이 단 하나의 큰 목소리가 전체를 장악하는 것을 성공적으로 막아줍니다.

다음으로, 그들은 **거리 의존적 도시(PCE 및 ECE)**로 이동했습니다. 여기서는 규칙이 바뀝니다. 뉴런은 근처에 있는 이들과만 대화하며, 거리가 멀어질수록 연결은 더 조용해집니다. 한 모델(PCE)에서는 음량이 멱법칙(power law)에 따라 천천히 감소합니다(몇몇 이웃은 매우 크게 소리치는 두꺼운 꼬리 분포를 생각하세요). 다른 모델(ECE)에서는 음량이 지수적 감쇠(exponential decay)처럼 빠르게 감소합니다. 이 모델들에서 저자들은 기이한 현상을 발견했습니다. 전체적인 외침과 속삭임을 조절하더라도 도시는 여전히 혼돈으로 치달을 수 있다는 것입니다. 왜일까요? 구조 자체가 글로벌한 균형으로는 포착할 수 없는 방식으로 신호를 증폭시키는 '허브'나 국지적 클러스터를 만들기 때문입니다. 이는 마치 어떤 동네의 음향 시설이 너무 좋아서 속삭임이 포효로 변하는 것과 같으며, 이로 인해 발생하는 통제 불능의 효과는 도시 전체에 내려진 '조용히 하라'는 명령으로도 막을 수 없습니다.

마지막으로, 그들은 **희소 도시(Sparse City, SCE)**를 테스트했습니다. 이것은 가장 현실적인 모델로, 뉴런은 엄격한 범위 내의 이웃 중 아주 적은 부분하고만 연결됩니다(예를 들어, 자신의 거리에 있는 사람들과만 대화하는 것과 같습니다). 그들은 세 가지 다른 거리 크기(R=5인 작은 막다른 골목, R=15인 중간 블록, R=60인 큰 구역)를 테스트했습니다.

불안정성의 "칼날"

이 논문에서 가장 흥격적인 발견은 '고유값(eigenvalues)'을 살펴볼 때 일어나는 일입니다. 간단히 말해, 고유값은 네트워크의 '기분 변화'와 같습니다. 기분 변화가 작고 억제되어 있으면 뇌는 안정적입니다. 만약 기분 변화가 너무 커지면 뇌는 불안정해집니다.

균일한 도시에서 기분 변화는 예쁘고 둥근 원 모양을 띱니다. 입력을 조절하면 원은 줄어들고 안전하게 유지됩니다.

하지만 거리 의존적 도시와 희소 도시에서 기분 변화는 원과는 전혀 다릅니다. 대신, 저자들이 "칼날(blade)" 또는 **"D-자 형태(D-shape)"**라고 부르는 기이하고 날카로운 모양을 형성합니다. 안정적인 진동 활동(스펙트럼의 복소수 부분)을 나타내는 원이 있고, 이 원에서 툭 튀어나와 있는 길고 날카로운 실수의 스파이크(칼날)가 불안정을 향해 곧장 뻗어 있습니다.

여기서 핵심은 다음과 같습니다: "균형" 규칙은 이 칼날을 잘라내지 못합니다.

시뮬레이션에서 저자들은 이 희소 네트워크에 '행 합계 제로(row-sum zero)' 제약 조건(균형 규칙)을 적용했습니다. 그들은 이것이 혼돈을 잠재울 것이라 기대했습니다. 하지만 대신, 칼날이 지속되는 것을 발견했습니다. 네트워크는 전체적인 외침과 속삭임이 완벽하게 균형을 이루고 있음에도 불구하고, 연결의 국지적 구조에 의해 주도되는 거대하고 위험한 불안정성 스파이크를 여전히 가지고 있었습니다.

예를 들어, 작은 범위(R=5)를 가진 희소 도시에서 네트워크는 안정적인 진동 부분이 음수(안전 구역)로 밀려났지만, 실수 고유값이 양수(위험 구역) 쪽으로 솟구쳐 올라 Re(λ) ≈ +7에 달하는 날카로운 스파이크를 형성하는 'D-자 형태'를 보였습니다. 네트워크를 "균형" 잡도록 강제했음에도 이 스파이크는 사라지지 않았습니다. 마치 국지적인 동네들이 너무 긴밀하게 연결되어 있어서, 도시 전체의 규칙을 무시하는 자체적인 내부 피드백 루프를 만들어낸 것과 같았습니다.

연결 범위가 증가함에 따라(R=5에서 R=15, 그리고 R=60으로) 혼돈의 형태가 변했습니다. "칼날"은 더 길어졌고 "D-자 형태"는 더 뚜렷해졌습니다. R=60일 때, 네트워크의 안정적인 부분은 음수 영역(Re(λ) ≈ -10) 깊숙이 밀려났지만, 불안정한 스파이크는 훨씬 더 멀리 뻗어 나가 Re(λ) ≈ +50에 도달했습니다. 이는 더 크고 더 많이 연결된 희소 네트워크에서, 위험이 균형 규칙이 해결할 수 없는 비진동 모드(non-oscillatory modes)로부터 발생하며, 이것이 브루트 포스(brute-force) 방식의 불안정성을 유발한다는 것을 시사합니다.

왜 "칼날"이 중요한가

저자들은 이 "칼날"이 실제 뇌가 배선되는 방식의 근본적인 특징이라고 제안합니다. 그것은 단순히 뉴런이 얼마나 크게 소리치느냐의 문제가 아니라, 누가 누구와 대화하느냐의 문제입니다. 이러한 희소하고 구조화된 네트워크에서 불안정성은 흥분과 억분의 전역적 불균형 때문에 발생하는 것이 아닙니다. 대신, 연결의 공간적 조직(spatial organization) 때문에 발생합니다. 단거리의 강한 연결로 만들어진 '허브'는 전역적인 균형 규칙과 상관없이 발작과 같은 상태를 촉발할 수 있는 구조적 약점으로 작나합니다.

이는 뇌가 안전을 유지하기 위해 단순히 입력을 균형 있게 맞추기만 하면 된다는 기존의 생각을 뒤집는 것입니다. 이 논문은 뇌가 더 미묘한 춤, 즉 흥분 뉴런의 수(인구 편향)와 그 연결의 강도(강도 편향) 사이의 상호작용에 의존할 수 있음을 시사합니다. 시뮬레이션에서 그들은 이 두 가지 상반된 힘이 엄격한 수학적 규칙 없이도 자연스럽게 서로를 상쇄하는 '스윗 스팟(sweet spot)'을 발견했습니다. 이는 마치 바람에 대응하여 폴대를 잡는 것이 아니라, 끊임없이 무게 중심과 자세를 조절하며 균형을 잡는 줄타기 곡예사와 같습니다.

요점

그렇다면 이것이 우리의 뇌에 대한 이해에 무엇을 의미할까요? 그것은 연결의 "지도"가 신호의 "음량"만큼이나 중요하다는 것을 의미합니다. 만약 당신이 평균적인 흥분과 억분을 조절함으로써 뇌 질환을 치료하려 한다면, 당신은 진짜 문제를 놓치고 있는 것일지도 모릅 모릅니다. 바로 이 위험한 "칼날"의 불안정을 만들어내는 연결의 국지적 구조 말입니다.

저자들은 고유값 스펙트럼(기분 변화의 지도)이 뇌 배선의 "지문"이라고 결론짓습니다. 서로 다른 배선 패턴은 서로 다른 형태의 혼돈을 만들어냅니다. 균일하고 밀집된 네트워크는 단순한 균형 규칙으로 제어하기 쉽지만, 현실적이고 희소한 네트워크는 훨씬 더 복잡합니다. 이들은 물리적 배치가 안정성에 어떤 영향을 미치는지에 대한 더 깊은 이해를 요구합니다.

요약하자면, 뇌는 단순히 소음을 줄여야 하는 무작위 소음 기계가 아닙니다. 뇌는 거리의 레이아웃이 속삭임을 속삭임으로 남길지, 아니면 폭동으로 만들지를 결정하는 구조화된 도시입니다. 그리고 때때로, 평화를 유지하는 유일한 방법은 소음 자체가 아니라 그 거리 자체를 이해하는 것입니다.