Random neural networks match observed dimensionality of neural population recordings and motivate stronger experimental tests

Probleemstelling
Willekeurig verbonden neurale netwerken hebben lang gediend als een theoretisch kader voor het bestuderen van collectieve dynamiek in neurale populaties. Echter, kwantitatieve vergelijkingen tussen deze minimale modellen en moderne grootschalige experimentele opnames zijn beperkt gebleven. Een centrale observatie in experimentele neurowetenschap is dat neurale populatie-activiteit vaak laagdimensionaal is, wat betekent dat de vuurpatronen van veel neuronen variëren in slechts enkele gecoördineerde manieren in plaats van onafhankelijk. Hoewel deze laagdimensionaliteit vaak is geïnterpreteerd als bewijs voor speciaal georganiseerde, fijn afgestemde circuits, blijft het een open vraag of dergelijke laagdimensionaliteit generiek kan ontstaan uit willekeurige recurrente interacties zonder fijnafstemming. Eerdere theoretisch werk met Dynamische Middenveldtheorie (DMFT) berekende de dimensionaliteit van willekeurige netwerken in de limiet van oneindige meettijd en zonder externe inputs. Dit werk adresseert de kloof tussen theorie en experiment door te bepalen of een minimaal gestructureerd willekeurig netwerk de laagdimensionaliteit die in real data wordt waargenomen kwantitatief kan verklaren wanneer realistische experimentele beperkingen – specifiek eindige meettijd en externe gedragsmatige inputs – worden geïncorporeerd.

Methodologie
De auteurs maken gebruik van een standaard model voor een willekeurig recurrent neurale netwerk (Sompolinsky et al.) met $N$ neuronen, waarbij de koppelingsmatrix $J$ wordt bemonsterd uit een Gauss-verdeling met gemiddelde nul ($J_{ij} \sim \mathcal{N}(0, g^2/N)$). Om gedragscontexten te modelleren, ontvangt het netwerk tijdsonafhankelijke externe inputs $f_i$ bemonsterd uit een Gauss-verdeling met gemiddelde nul met sterkte $I$. De dynamiek wordt beheerst door een continu-tijd snelheidsmodel met een niet-lineariteit $\phi(h) = \text{erf}(\sqrt{\pi}h/2)$.

Het centrale theoretische hulpmiddel is Dynamische Middenveldtheorie (DMFT), uitgebreid om te handelen met:

1. Externe Inputs: Het ontleden van activiteit in een "geordende respons" ($\bar{r}$), wat de gemiddelde respons in de tijd op de input is, en "tijdelijke chaos" ($\tilde{r}$), die de resterende fluctuaties vertegenwoordigt.
2. Eindige Meettijd ($T$): Het afleiden van analytische uitdrukkingen voor statistieken gemeten over een eindig venster $T$, waarbij wordt erkend dat de gemeten dimensionaliteit afhangt van de verhouding tussen meettijd en de autocorrelatietijd van de chaos ($\tau_{\tilde{C}}$).
3. Multi-Context Analyse: Het gebruik van replica-methoden om statistieken te berekenen over meerdere gedragsmatige contexten (verschillende externe inputs) om de geometrie van de "wolk" van geordende responsen te beoordelen.

Belangrijke berekende grootheden omvatten:

• Participatie Ratio (PR): Gebruikt als een lineaire maat voor dimensionaliteit voor zowel tijdelijke chaos als geordende responsen.
• Cosinus Similariteit (CS): Het meten van de gelijkenis tussen geordende responsen over verschillende contexten.
• Oriëntatie Similariteit (OS): Het meten van de gelijkenis tussen de hoofdassen (covariantie-ellipsoïden) van tijdelijke chaos over contexten.

Belangrijkste Bijdragen en Resultaten

• Kwantitatieve Overeenstemming met Experimenten: De auteurs tonen aan dat wanneer eindige meettijd en externe inputs worden opgenomen, de dimensionaliteit voorspeld door een minimaal gestructureerd willekeurig netwerk kwantitatief consistent is met experimentele data van de motorische cortex van primaten (PMd en M1) tijdens grijp-taken. Specifiek reproduceert het model de lage dimensionaliteitswaarden die in experimenten worden waargenomen voor realistische meetduren ($T \sim 1$ s) en aantallen neuronen ($N \sim 800$).
• Beperkingen van Dimensionaliteit als Discriminator: Ondanks de overeenstemming vinden de auteurs dat in het regime gedefinieerd door huidige experimentele duur, de voorspelde dimensionaliteit laag is en relatief ongevoelig voor netwerkparameters (zoals versterking $g$ of inputsterkte $I$). Bijgevolg kunnen dimensionaliteitsmetingen alleen niet onderscheid maken tussen een minimaal gestructureerd willekeurig netwerk en een netwerk met aanvullende specifieke bedradingstructuren. De overeenstemming kan simpelweg de beperkte meetvenster weerspiegelen in plaats van de afwezigheid van structuur.
• Niet-monotoon Dimensionaliteit van Tijdelijke Chaos: De lange-tijd dimensionaliteit van tijdelijke chaos ($PR_\infty$) varieert niet-monotoon met de inputsterkte. Deze neemt aanvankelijk toe wanneer zwakke inputs fluctuaties uitlijnen met richtingen met hoge variantie van de autonome chaos, en neemt vervolgens af wanneer sterke inputs neuronen drijven naar gebieden met lage versterking van de niet-lineariteit, waardoor chaos wordt onderdrukt.
• Differentiële Gevoeligheid van Geometrische Maten:
  • Geordende Respons Similariteit (CS): De gelijkenis tussen in de tijd gemiddelde responsen over contexten blijft hoog en verzadigt snel naarmate de inputsterkte toeneemt, waardoor de gelijkenis van de inputs behouden blijft. Deze maat is primair gevoelig voor eigenschappen van individuele neuronen.
  • Tijdelijke Chaos Oriëntatie Similariteit (OS): Daarentegen verandert de oriëntatie van de fluctuatie-ellipsoïde (tijdelijke chaos) snel met de inputsterkte. Zelfs wanneer geordende responsen zeer vergelijkbaar zijn, kunnen de onderliggende fluctuatiestructuren significant decorreleren. Deze maat is gevoeliger voor netwerkstructuur dan dimensionaliteit.
  • Multi-Context Dimensionaliteit: De dimensionaliteit van de wolk van geordende responsen over meerdere contexten groeit systematisch met het aantal bemonsterde contexten. Dit biedt een basislijn waarmee experimentele data kan worden vergeleken om afwijkingen van het minimale model te detecteren.

Betekenis
Het artikel betoogt dat laagdimensionaliteit in neurale populatie-opnames niet als definitief bewijs voor speciaal georganiseerde circuitstructuur moet worden genomen. Een minimaal gestructureerd willekeurig netwerk, wanneer het wordt onderworpen aan realistische experimentele beperkingen (eindige tijd en externe inputs), produceert van nature activiteit met een laagdimensionaliteit die vergelijkbaar is met experimentele observaties. Daarom is de blote observatie van laagdimensionaliteit onvoldoende om de aanwezigheid van fijn afgestemde connectiviteit af te leiden.

Om op te lossen of een netwerk structuur bezit die verder gaat dan willekeurige interacties, stellen de auteurs dat experimenten verder moeten gaan dan eenvoudige dimensionaliteitsaantallen. Zij identificeren specifieke geometrische grootheden die sterkere tests bieden:

1. De niet-monotone afhankelijkheid van de dimensionaliteit van tijdelijke chaos van de inputsterkte.
2. De snelle afname van de oriëntatie-similariteit (OS) tussen tijdelijke chaos-structuren over verschillende gedragsmatige contexten.
3. De schaling van multi-context dimensionaliteit met het aantal bemonsterde contexten.

Afwijkingen van de kwantitatieve voorspellingen van het minimaal gestructureerde willekeurige netwerk voor deze specifieke maten zouden de aanwezigheid van aanvullende, niet-willekeurige organisatie in de onderliggende neurale circuits aangeven. Het werk biedt een kwantitatief kader voor het ontwerpen van experimenten om generieke willekeurige dynamiek te onderscheiden van gestructureerde berekeningen.