🧬 biology

Harnessing cortical geometry, wiring, and function as inductive biases for recurrent neural networks

Diese Arbeit zeigt auf, dass die Nutzung der ko-registrierten anatomischen und funktionellen Daten des MICrONS-Programms zur Initialisierung und Einschränkung rekurrenter neuronaler Netze deren Leistung bei kognitiven Aufgaben signifikant verbessert und gleichzeitig biologisch plausible Organisationsprinzipien fördert.

Ursprüngliche Autoren: Mo Shakiba, Rana Rokni, Mohammad Mohammadi, Nima Dehghani

Veröffentlicht 2026-06-16

📖 4 Min. Lesezeit☕ Kaffeepausen-Lektüre

CC BY 4.0

Ursprüngliche Autoren: Mo Shakiba, Rana Rokni, Mohammad Mohammadi, Nima Dehghani

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ⚕️ Dies ist eine KI-generierte Erklärung eines Preprints, das nicht peer-reviewed wurde. Dies ist kein medizinischer Rat. Treffen Sie keine Gesundheitsentscheidungen auf Grundlage dieses Inhalts. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie versuchen einem Roboter das Denken beizubringen. Normalerweise bauen Wissenschaftler diese „denkenden“ Maschinen (genannt Rekurrente Neuronale Netze oder RNNs), indem sie mit einem unbeschriebenen Blatt beginnen. Sie geben dem Roboter ein Gehirn voller zufälliger Verbindungen, wie einen verhedderten Wollknäuel, und hoffen, dass er durch Versuch und Irrtum lernt, sich selbst zu entwirren.

Diese Arbeit stellt eine andere Frage: Was wäre, wenn wir nicht mit einem verhedderten Chaos begännen? Was wäre, wenn wir mit einem Bauplan starteten?

Die Forscher entschieden sich, das Gehirn ihres Roboters mithilfe des tatsächlichen „Bauplans“ eines Mäusegehirns aufzubauen. Sie haben nicht einfach geraten, wie die Drähte verbunden sein sollten; sie nutzten echte Daten aus einem massiven Projekt namens MICrONs, das die genaue Lage, Verdrahtung und Aktivität von fast 12.000 Neuronen im visuellen Kortex einer Maus kartiert hat.

Hier ist die einfache Aufschlüsselung dessen, was sie getan haben und was sie herausgefunden haben:

Die drei Zutaten des „Maus-Bauplans“

Die Forscher nahmen drei spezifische Dinge aus dem Mäusegehirn und nutzten sie als Regeln für ihren Roboter:

Das Verdrahtungsdiagramm (Funktion): Sie untersuchten, wie die Neuronen der Maus tatsächlich miteinander kommunizierten, während die Maus Dinge sah. Sie nutzten diese „Gesprächshistorie“, um zu entscheiden, welche Roboterverbindungen von vornherein stark und welche schwach sein sollten.
- Analogie: Anstatt dem Roboter zufällige Freunde zu geben, stellten sie ihn genau den Menschen vor, die er kennen muss, basierend darauf, wer sich im Mäusegehirn tatsächlich gerne in Gesellschaft aufhielt.
Die Landkarte (Geometrie): Sie platzierten die „Neuronen“ des Roboters im 3D-Raum unter Verwendung der exakten Koordinaten, an denen die echten Mäuseneuronen leben. Zudem fügten sie eine Regel hinzu: „Es kostet mehr Energie, mit jemandem zu kommunizieren, der weit weg ist, also versuche, deine Freunde nah bei dir zu halten.“
- Analogie: Stellen Sie sich eine Stadt vor, in der man für lange Telefonate extra bezahlen muss. Der Roboter lernt, seine Nachbarschaft so zu organisieren, dass Menschen, die viel miteinander sprechen, auch nebeneinander wohnen.
Die Verkehrsregeln (Kommunikation): Sie fügten eine Regel hinzu, um das Netzwerk effizienter zu machen und sicherzustellen, dass Informationen schnell fließen können, ohne im Stau stecken zu bleiben.

Das Experiment: Drei verschiedene Spiele

Um zu testen, ob dieser „Maus-Bauplan“ half, brachten sie den Robotern drei verschiedene kognitive Spiele bei:

Das „Ein-Wahl“-Spiel: Ein Ziel behalten, warten und dann die richtige Richtung wählen, um dorthin zu gelangen.
Das „Wahrnehmungs“-Spiel: Ein verschwommenes, verrauschtes Bild betrachten und entscheiden, in welche Richtung sich die Punkte bewegen.
Das „Go/No-Go“-Spiel: Ein Signal sehen und entscheiden, ob man handeln oder stillstehen soll.

Das Ergebnis: Der Bauplan gewinnt

Die Roboter, die mit dem Maus-Bauplan gebaut wurden, lernten viel schneller und besser als die Roboter mit zufälligen Gehirnen.

Die Geheimzutat: Der größte Schub kam durch das Verdrahtungsdiagramm (zu wissen, wer mit wem spricht). Dies war so, als hätte man dem Roboter einen Vorsprung beim schwierigsten Teil des Puzzles gegeben.
Die Karte half ebenfalls: Die Verwendung der echten 3D-Karte der Neuronen gab einen zusätzlichen Schub und machte den Roboter noch effizienter.
Der „Nur-Positiv“-Test: In einem superharten Test, bei dem der Roboter nur „erregende“ Signale nutzen durfte (keine „Stopp“-Signale erlaubt), versagten die Zufalls-Roboter völlig. Aber die Roboter mit dem Maus-Bauplan arbeiteten weiterhin perfekt. Es war, als hätte der Bauplan ihnen ein stabiles Fundament gegeben, das unter Druck nicht zusammenbrach.

Wie das Gehirn des Roboters aussah

Als die Forscher in die Gehirne der erfolgreichen Roboter blickten, sahen sie etwas Faszinierendes. Die Roboter lernten nicht nur die Aufgaben; sie organisierten sich auf eine Weise, die wie ein echtes Gehirn aussah:

Niedrige Entropie: Anstatt eines chaotischen Durcheinanders waren die Verbindungen hochgradig organisiert und strukturiert.
Small-World: Sie schufen „Nachbarschaften“ (Cluster), die eng vernetzt waren, aber auch kurze, schnelle Autobahnen besaßen, die andere Nachbarschaften verbanden. Genau so funktionieren echte Gehirne, um sowohl spezialisiert als auch effizient zu sein.
Modularität: Sie bildeten deutliche Gruppen von Neuronen, die spezifische Aufgaben übernahmen, genau wie Abteilungen in einem Unternehmen.

Das Fazum

Die Arbeit kommt zu dem Schluss, dass die physische Form, die Verdrahtung und die Aktivitätsmuster eines echten Gehirns nicht nur biologische Details sind, sondern mächtige Abkürzungen für das Lernen.

Indem sie die „Maschinerie“ des Kortex (dessen Geometrie, Verdrahtung und Funktion) kopierten, bauten die Forscher künstliche Gehirne, die effektiver lernten und sich selbst in intelligentere, effizientere Strukturen organisierten. Sie bewiesen, dass man, wenn man eine bessere denkende Maschine bauen will, nicht nur mehr Daten oder größere Modelle braucht, sondern mit einer besseren Karte beginnen muss.

Technische Zusammenfassung: Neuronale Constraints treiben überlegendes Lernen in RNNs voran

Problemstellung
Eine zentrale Herausforderung an der Schnittstelle zwischen Neurowissenschaften und maschinellem Lernen besteht darin, zu verstehen, wie die spezifische Geometrie, Verdrahtung und funktionelle Organisation des zerebralen Kortex die rekurrenten Berechnungen prägt. Während rekurrenten neuronalen Netzen (RNNs) leistungsstarke Werkzeuge zur Modellierung zeitlicher Dynamiken sind, werden sie typischerweise mit zufälligen Gewichten und unbeschränkter Konnektivität initialisiert. Dies steht im Gegensatz zu biologischen Schaltkreisen, in denen Neuronen physischen Raum einnehmen, Prinzipien der Verdrahtungseffizienz folgen und an strukturierten anatomischen sowie funktionellen Beziehungen teilhaben. Vorherige Arbeiten haben nahegelegt, dass die Auferlegung biologischer Constraints (z. B. räumliche Einbettung) das Lernen verbessern kann, doch die meisten Studien stützen sich auf stilisierte oder randomisierte Einbettungen statt auf gemessene kortikale Organisation. Die ungeklärte Frage ist, ob die spezifische, gemessene Geometrie, Verdrahtung und funktionelle Struktur realer kortikaler Schaltkreise als leistungsstarke induktive Biases dienen können, die im Vergleich zu generischer biologischer Inspiration ein überlegendes Lernen vorantreiben.

Methodik
Die Autoren nutzen den Machine Intelligence from Cortical Networks (MICrONS) Datensatz, eine multimodale funktionelle Konnektomik-Ressource aus dem visuellen Kortex der Maus. Dieser Datensatz korreliert auf einzigartige Weise dichte Zwei-Photonen-Calcium-Bildgebung (funktionelle Aktivität) mit hochauflösender Elektronenmikroskopie (anatomische Konnektivität und räumliche Koordinaten) für dieselbe Neuronenpopulation (~12.000 exzitatorische Neuronen).

Die Studie konstruiert eine Familie von 11 biologisch fundierten RNN-Varianten, um die Beiträge dreier spezifischer kortikaler Priors systematisch zu entwirren:

Funktionelle Gewichtsinitialisierung ( $W^*$ oder $W!$ ): Rekurrente Gewichte werden unter Verwendung funktioneller Beziehungen initialisiert, die aus neuronaler Aktivität abgeleitet wurden (Pearson-Korrelation und Spike Time Tiling Coefficient, oder STTC). Eine Kontrollvariante ( $W!$ ) permutiert diese Gewichte, um die statistische Verteilung zu bewahren, während die spezifische Neuron-zu-Gewicht-Zuordnung gestört wird.
Reale räumliche Einbettung ( $D^*$ ): Rekurrente Einheiten werden basierend auf gemessenen Soma-Koordinaten aus MICrONS Positionen zugewiesen, im Gegensatz zu einem künstlichen Gitter ( $D$ ).
Kommunizierbarkeitsbasierte Regularisierung ( $C$ oder $C^*$ ): Während des Lernens bestraft ein Regularisierungsterm die weitreichende Kommunikation oder erzwingt Ähnlichkeit zwischen der Kommunizierbarkeitsverteilung des Modells und der empirischen Verteilung, die aus der anatomischen Konnektivität abgeleitet wurde.

Diese Modelle werden auf drei kognitiven Entscheidungsaufgabentypen trainiert: One-Choice Inference, Perceptual Decision-Making und Go/NoGo. Die Leistung wird nicht nur durch die Aufgaben-Genauigkeit, sondern auch durch emergente graphentheoretische Eigenschaften der gelernten Gewichtmatrizen bewertet, einschließlich Entropie, Modularität, Assortativität und Small-Worldness. Die Robustheit wird ferner getestet, indem die rekurrenten Gewichte auf strikt positive Werte beschränkt werden (exzitatorisches Regime).

Wesentliche Beiträge

Empirische Validierung kortikaler Priors: Die Studie zeigt, dass die Fundierung von RNNs in gemessener kortikaler Geometrie, Verdrahtung und Funktion signifikant bessere Lernergebnisse liefert als unbeschränkte oder teilweise beschränkte Baselines.
Hierarchischer Beitrag der Priors: Durch Ablationsstudien etablieren die Autoren eine Hierarchie induktiver Biases:
- Die funktionelle Initialisierung liefert den größten und allgemeinsten Leistungszuwachs.
- Die reale räumliche Einbettung bietet eine robuste, sekundäre Verbesserung.
- Die Kommunizierbarkeits-Regularisierung liefert selektive, kontextabhängige Verfeinerungen.
Strukturell-funktionelle Synergie: Die Forschung zeigt, dass die Kombination aus funktioneller Initialisierung mit realen räumlichen Koordinaten und Kommunizierbarkeits-Constraints zu Netzwerken führt, die nicht nur genauer sind, sondern auch gegen nieder-entropische, modulare und Small-World-Topologien konvergieren, die charakteristisch für biologische Netzwerke sind.
Robustheit unter Vorzeichen-Constraints: Die Autoren zeigen, dass die funktionelle Initialisierung das Lernen stabilisiert, selbst wenn die rekurrente Architektur auf rein positive Gewichte beschränkt ist (was ein exzitatorisches Regime nachahmt) – ein Zustand, unter dem zufällig initialisierte Modelle versagen.

Ergebnisse

Aufgabenleistung: Vollständig beschränkte Modelle (z. B. $W^*D^*C$ und $W^*D^*C^*$ ) übertrafen konsistent die Baselines und teilweise beschränkten Varianten über alle drei Aufgaben hinweg. Beispielsweise erreichte das vollständig beschränkte Modell bei Aufgabe 1 eine Genauigkeit von ~0,985 im Vergleich zu ~0,625 für die Baseline.
Ablations-Erkenntnisse:
- Das Entfernen der funktionellen Initialisierung verursachte einen dramatischen Leistungsabfall, insbesondere bei den Aufgaben 2 und 3.
- Das Ersetzen realer Koordinaten durch ein Gitter ( $D$ ) reduzierte die Leistung signifikant, was bestätigt, dass die tatsächliche kortikale Geometrie als bedeutsamer computationaler Prior fungiert.
- Die permutierte Gewichtsvariante ( $W!$ ) performte vergleichbar mit der strukturierten Variante ( $W^*$ ), was darauf hindeutet, dass die statistische Struktur der biologischen Gewichtsverteilung der primäre Treiber ist und nicht eine präzise Zuordnung pro Neuron.
Emergente Topologie:
- Entropie: Biologisch beschränkte Modelle konvergierten zu nieder-entropischen (hochstrukturierten) Gewichtsverteilungen, während Baselines hoch-entropisch (zufallsähnlich) blieben.
- Modularität & Small-Worldness: Modelle mit direkter Kommunizierbarkeits-Regularisierung und realen Koordinaten entwickelten eine starke Modularität und Small-World-Strukturen ( $\sigma \approx 1,5–2,5$ ). Bemerkenswerterweise erreichten einige Varianten eine niedrige Entropie und hohe Leistung ohne starke Modularität, was darauf hindeutet, dass dies distinkte, aber verwandte Ergebnisse sind.
- Assortativität: Die funktionelle Initialisierung tendierte dazu, Netzwerke zu disassortativen (Hub-Peripherie-) Strukturen zu führen, während räumliche Constraints allein manchmal zu assortativen (Hub-reichen) Strukturen führten.
Positive-Only Regime: Unter der Beschränkung auf rein positive Gewichte kollabierten zufällig initialisierte Modelle auf die Leistung einer Zufallsauswahl, während funktionell initialisierte Modelle eine hohe Genauigkeit beibehielten, was zeigt, dass biologische Priors die Optimierung in schwierigen Parameterräumen stabilisieren können.

Bedeutung und Behauptungen
Das Paper behauptet, dass die „Maschinerie des Kortex“ – insbesondere seine Geometrie, Verdrahtung und funktionelle Struktur – als leistungsstarke induktive Basis für den Aufbau rekurrenter Netze genutzt werden kann. Die Autoren argumentieren, dass diese Priors die Modelle nicht nur „biologisch realistischer“ machen, sondern das Lernen fundamental effizienter und robuster gestalten.

Die von den Autoren betonten Kernpunkte sind:

Induktiver Bias statt Komplexität: Bessere rekurrente Berechnungen können erreicht werden, indem man nicht die Modellgröße oder die architektonische Komplexität erhöht, sondern den Optimierungsraum durch biologisch fundierte Priors umgestaltet.
Interdependenz von Struktur und Funktion: Während die anatomische Struktur ein Gerüst bietet, ist die funktionelle Information (aktivitätsbasierte Beziehungen) der entscheidende Constraint für die Spezifikation rekurrenter Dynamiken. Die Struktur allein bestimmt die Dynamik nicht eindeutig; funktionelle Priors sind erforderlich, um den Lösungsraum auf effektive Regime einzugrenzen.
Designprinzipien für KI: Die Ergebnisse legen nahe, dass Prinzipien der kortikalen Organisation (räumliche Einbettung, funktionelle Initialisierung, Verdrahtungseffizienz) computational bedeutsam sind und als wiederverwendbare Designprinzipien für künstliche Systeme dienen können, insbesondere in Bereichen, die Dateneffizienz und robuste interne Organisation erfordern.

Die Autoren halten den Umfang moderat und räumen Einschränkungen ein, wie etwa den Fokus auf exzitatorische Neuronen, das spezifische experimentelle Regime der MICRONS-Daten und die Verwendung statistischer statt kausaler funktioneller Maße. Sie behaupten jedoch, dass die Ergebnisse einen direkten empirischen Beleg für die Hypothese liefern, dass kortikale Mikrokreise um Effizienzprinzipien organisiert sind, die effektiv auf künstliche rekurrenten Netzwerke übertragen werden können.