Random neural networks match observed dimensionality of neural population recordings and motivate stronger experimental tests

문제 제기
무작위로 연결된 신경망은 신경 집단 내의 집단 역학을 연구하기 위한 이론적 틀로 오랫동안 사용되어 왔습니다. 그러나 이러한 최소 모델과 현대의 대규모 실험 기록 간의 정량적 비교는 여전히 제한적입니다. 실험 신경과학의 핵심 관찰 중 하나는 신경 집단 활동이 종종 저차원적이라는 점인데, 이는 많은 뉴런의 발화 패턴이 독립적으로 변하는 것이 아니라 몇 가지 조율된 방식으로만 변함을 의미합니다. 이러한 저차원성이 종종 특별히 조직되고 미세 조정된 회로의 증거로 해석되어 왔지만, 미세 조정 없이 무작위 재귀 상호작용에서 일반적으로 이러한 저차원성이 발생할 수 있는지 여부는 여전히 열린 질문입니다. 동적 평균장 이론 (DMFT) 을 사용한 이전의 이론적 연구는 무한한 측정 시간과 외부 입력이 없는 극한에서 무작위 네트워크의 차원을 계산했습니다. 본 연구는 현실적인 실험 제약 조건, 즉 유한한 측정 시간과 외부 행동 입력을 고려할 때, 최소 구조의 무작위 네트워크가 실제 데이터에서 관찰된 저차원성을 정량적으로 설명할 수 있는지 규명함으로써 이론과 실험 간의 간극을 해소합니다.

방법론
저자들은 $N$개의 뉴런을 가진 표준 무작위 재귀 신경망 모델 (Sompolinsky 등) 을 사용하며, 여기서 결합 행렬 $J$는 평균이 0 인 가우스 분포 ($J_{ij} \sim \mathcal{N}(0, g^2/N)$) 에서 샘플링됩니다. 행동 맥락을 모델링하기 위해 네트워크는 강도 $I$를 가진 평균이 0 인 가우스 분포에서 샘플링된 시간 불변의 외부 입력 $f_i$를 받습니다. 역학은 비선형성 $\phi(h) = \text{erf}(\sqrt{\pi}h/2)$를 가진 연속 시간 속도 모델에 의해 지배됩니다.

핵심 이론적 도구는 다음을 처리하도록 확장된 동적 평균장 이론 (DMFT) 입니다:

1. 외부 입력: 활동을 입력에 대한 시간 평균 응답인 '질서 있는 응답'($\bar{r}$) 과 잔류 변동을 나타내는 '시간적 혼돈'($\tilde{r}$) 으로 분해합니다.
2. 유한 측정 시간 ($T$): 측정된 차원이 혼돈의 자기상관 시간 ($\tau_{\tilde{C}}$) 에 대한 측정 시간의 비율에 의존함을 인정하면서, 유한한 창 $T$에서 측정된 통계에 대한 분석적 표현식을 유도합니다.
3. 다중 맥락 분석: '질서 있는 응답'의 구름의 기하학을 평가하기 위해 여러 행동 맥락 (서로 다른 외부 입력) 에 걸쳐 통계를 계산하기 위해 복제 방법을 사용합니다.

계산된 주요 양은 다음과 같습니다:

• 참여 비율 (PR): 시간적 혼돈과 질서 있는 응답 모두에 대한 차원의 선형 측정치로 사용됩니다.
• 코사인 유사도 (CS): 서로 다른 맥락에서 질서 있는 응답 간의 유사성을 측정합니다.
• 방향 유사도 (OS): 서로 다른 맥락에서 시간적 혼돈의 주축 (공분산 타원체) 간의 유사성을 측정합니다.

주요 기여 및 결과

• 실험과의 정량적 일치: 저자들은 유한한 측정 시간과 외부 입력이 포함될 때, 최소 구조의 무작위 네트워크가 예측하는 차원이 도달 과제 중 원숭이 운동 피질 (PMd 및 M1) 의 실험 데이터와 정량적으로 일치함을 보여줍니다. 구체적으로, 이 모델은 현실적인 측정 지속 시간 ($T \sim 1$초) 과 뉴런 수 ($N \sim 800$) 에 대해 실험에서 관찰된 저차원성 값을 재현합니다.
• 차원성 구분자로서의 한계: 일치에도 불구하고, 저자들은 현재 실험 지속 시간으로 정의된 영역에서 예측된 차원성이 낮으며 네트워크 매개변수 (이득 $g$ 또는 입력 강도 $I$ 등) 에 상대적으로 둔감함을 발견합니다. 결과적으로 차원성 측정만으로는 최소 구조의 무작위 네트워크와 추가적인 특정 배선 구조를 가진 네트워크를 구별할 수 없습니다. 이러한 일치는 구조의 부재보다는 단순히 제한된 측정 창을 반영할 수 있습니다.
• 시간적 혼돈의 비단조적 차원성: 시간적 혼돈의 장기 차원성 ($PR_\infty$) 은 외부 입력 강도에 따라 비단조적으로 변합니다. 약한 입력이 자율적 혼돈의 고분산 방향과 변동을 정렬시키면서 초기에는 증가하다가, 강한 입력이 뉴런을 비선형성의 저이득 영역으로 밀어내어 혼돈을 억제함에 따라 감소합니다.
• 기하학적 측정치의 차별적 민감도:
  • 질서 있는 응답 유사도 (CS): 맥락 간 시간 평균 응답 간의 유사성은 입력 강도가 증가함에 따라 높게 유지되며 빠르게 포화되어 입력의 유사성을 보존합니다. 이 지표는 주로 단일 뉴런 특성에 민감합니다.
  • 시간적 혼돈 방향 유사도 (OS): 반면, 변동 타원체 (시간적 혼돈) 의 방향은 입력 강도에 따라 빠르게 변합니다. 질서 있는 응답이 매우 유사할지라도, 근본적인 변동 구조는 크게 비상관될 수 있습니다. 이 지표는 차원성보다 네트워크 구조에 더 민감합니다.
  • 다중 맥락 차원성: 여러 맥락에 걸쳐 샘플링된 질서 있는 응답 구름의 차원은 샘플링된 맥락의 수에 따라 체계적으로 증가합니다. 이는 실험 데이터를 최소 모델에서의 편차를 감지하기 위해 비교할 수 있는 기준선을 제공합니다.

의의
본 논문은 신경 집단 기록에서의 저차원성이 특별히 조직된 회로 구조에 대한 결정적 증거로 간주되어서는 안 된다고 주장합니다. 최소 구조의 무작위 네트워크는 현실적인 실험 제약 조건 (유한 시간과 외부 입력) 을 받으면 실험 관찰과 비교 가능한 저차원성 활동을 자연스럽게 생성합니다. 따라서 저차원성의 단순한 관찰만으로는 미세 조정된 연결의 존재를 추론하기에 불충분합니다.

네트워크가 무작위 상호작용 이상의 구조를 possessing 하는지 해결하기 위해, 저자들은 실험이 단순한 차원성 계수를 넘어설 필요가 있다고 제안합니다. 그들은 더 강력한 검증을 제공하는 특정 기하학적 양을 식별합니다:

1. 입력 강도에 대한 시간적 혼돈 차원성의 비단조적 의존성.
2. 서로 다른 행동 맥락 간 시간적 혼돈 구조 간의 방향 유사도 (OS) 의 급격한 감소.
3. 샘플링된 맥락의 수에 따른 다중 맥락 차원성의 척도.

이러한 특정 측정치에 대한 최소 구조 무작위 네트워크의 정량적 예측에서의 편차는 근본적인 신경 회로에 추가적인 비무작위 조직이 존재함을 나타냅니다. 이 연구는 일반적인 무작위 역학과 구조화된 계산을 구별하기 위한 실험을 설계하기 위한 정량적 틀을 제공합니다.