Stiefel Manifold Dynamical Systems for Tracking Representational Drift

Deze paper introduceert het Stiefel Manifold Dynamical System (SMDS), een nieuw model dat orthonormale emissiematrices op een Stiefel-variëteit gebruikt om representatieve drift in neurale data nauwkeuriger te modelleren dan traditionele lineaire dynamische systemen, wat resulteert in betere prestaties en inzichten in de driftsnelheid van neurale dimensies.

De kern

🧠 De Hersenen als een Veranderend Orkest: Een Nieuwe Manier om te Luisteren

Stel je je hersenen voor als een groot orkest. De individuele muzikanten zijn de neuronen (hersencellen), en hun muziek is de activiteit die we meten. De melodie die ze spelen, vertegenwoordigt wat je doet of voelt (bijvoorbeeld: "ik grijp naar een kopje").

Het Probleem: De Muzikanten Veranderen hun Instrument

In de afgelopen decennia hebben wetenschappers een populaire manier gebruikt om naar dit orkest te luisteren: de Lineaire Dynamische Systemen (LDS). Je kunt dit zien als een simpele notatie die zegt: "Als de muzikant A een noot speelt, hoort de luisteraar altijd exact dezelfde toon."

Maar er is een groot probleem: De hersenen zijn niet statisch.
Zelfs als je precies dezelfde taak blijft doen (bijvoorbeeld steeds naar dezelfde kopje grijpen), veranderen de neuronen langzaam. Het is alsof de muzikanten in het orkest elke dag een ander instrument lenen, of hun partituur ietsjes aanpassen. Dit fenomeen noemen onderzoekers "Representational Drift" (het wegdriften van de representatie).

Oude modellen (LDS) dachten dat de verbinding tussen de melodie en de muzikant altijd hetzelfde bleef. Daardoor raakten ze de draad kwijt als de muzikanten hun instrumenten veranderden. Ze zagen de veranderingen als "ruis" of fouten, terwijl het eigenlijk gewoon de natuur van de hersenen was.

De Oplossing: SMDS (Het Slimme Dirigent)

De auteurs van dit paper hebben een nieuw model bedacht: het Stiefel Manifold Dynamical System (SMDS).

Stel je voor dat SMDS een slimme dirigent is die niet alleen naar de melodie luistert, maar ook ziet dat de muzikanten hun instrumenten langzaam aanpassen.

• De Melodie (Latente Dynamiek): De onderliggende "gedachte" of het plan (bijv. "grijpen") blijft stabiel. Dit is de echte dynamiek die we willen begrijpen.
• De Instrumenten (Emissiematrices): De manier waarop de neuronen die gedachte vertalen naar elektrische signalen, verandert langzaam.

SMDS gaat ervan uit dat deze veranderingen glad en voorspelbaar zijn. Het model "leert" hoe de instrumenten veranderen en houdt daar rekening mee, zodat het de echte melodie (de hersendynamiek) toch perfect kan horen, zelfs als de muzikanten hun partituur aanpassen.

Hoe werkt het? (De Wiskundige Magie)

Om dit te doen, gebruiken de auteurs een wiskundig concept dat een Stiefel Manifold heet.

• De Metafoor: Stel je voor dat je een kompas hebt. De naald wijst altijd naar het noorden (de stabiele dynamiek). Maar de manier waarop je het kompas vasthoudt, kan draaien.
• In plaats van te proberen de naald recht te houden (wat onmogelijk is als de wereld draait), laat SMDS het kompas draaien op een perfect glad oppervlak. Het zorgt ervoor dat de veranderingen logisch en vloeiend verlopen, zonder dat het model in de war raakt.

Wat hebben ze ontdekt?

De onderzoekers hebben dit model getest op twee dingen:

1. Gemaakte data: Waar ze wisten hoe het moest werken. SMDS was veel beter dan de oude methoden; het kon de echte melodie terugvinden, terwijl de oude methoden in de war raakten.
2. Echte hersenmetingen: Ze keken naar apen die een taak deden (een cursor bewegen) en ratten die likten.

De verrassende bevindingen:

• Drift is echt: De hersenen veranderen zelfs binnen één sessie van 30 minuten. Het is niet alleen iets dat over jaren gebeurt.
• Belangrijke dingen blijven stabiel: De onderdelen van de hersenen die belangrijk zijn voor de taak (bijvoorbeeld de beweging van de hand) veranderen minder dan de minder belangrijke onderdelen.
  • Analogie: Stel je een schip voor dat door een storm vaart. De roerganger (de belangrijke taak) houdt de koers stabiel, maar de lading in de kelder (de minder belangrijke neuronen) schuift een beetje heen en weer. SMDS ziet dit verschil; de oude modellen zagen alleen de chaos.

Waarom is dit belangrijk?

Vroeger dachten we dat als neuronen veranderden, het misschien een fout was of dat de proefpersonen "verveelden". Dit paper laat zien dat verandering normaal is.

Het SMDS-model is als een bril die ons toelaat om door de veranderende "ruis" van de neuronen te kijken en de ware, stabiele logica van de hersenen te zien. Dit helpt niet alleen om te begrijpen hoe we leren en onthouden, maar kan ook helpen bij het verbeteren van hersen-computerinterfaces (zoals die voor mensen met verlamming), zodat deze apparaten niet uitvallen als de hersenen van de gebruiker een beetje "drift" vertonen.

Kortom: De hersenen zijn geen statische machine, maar een levend, veranderend orkest. SMDS is de nieuwe dirigent die weet hoe hij moet luisteren, zelfs als de muzikanten hun instrumenten vervangen.

Technische samenvatting

Probleemstelling

In de systemenneurowetenschap worden Lineaire Dynamische Systemen (LDS) veel gebruikt om neurale activiteit te modelleren door deze te reduceren tot een laagdimensionale latente ruimte. Een fundamentele aanname van de standaard LDS is echter dat de mapping (de emissiematrix) tussen de latente toestanden en de waargenomen neurale activiteit stabiel blijft gedurende een taak.

In werkelijkheid ondergaan neurale representaties echter representational drift: een geleidelijke verandering in de correlaties tussen neuronen en sensorische of gedragsvariabelen, zelfs als het gedrag constant blijft. Traditionele LDS-modellen kunnen deze non-stationariteit niet goed vangen, wat leidt tot een onnauwkeurige schatting van de onderliggende dynamica en een verlies aan voorspellende kracht. Bestaande methoden om drift te analyseren (zoals PCA) zijn vaak niet in staat om de drift per individuele dimensie te kwantificeren of te onderscheiden van rotaties binnen de latente ruimte.

Methodologie: Stiefel Manifold Dynamical System (SMDS)

De auteurs introduceren de Stiefel Manifold Dynamical System (SMDS), een nieuw probabilistisch model dat de beperkingen van de LDS oplost door de emissiematrix dynamisch te laten evolueren.

Kernconcepten:

1. Orthonormale Emissiematrices: In plaats van een vaste emissiematrix $C$, modelleert SMDS een reeks emissiematrices $C^{(k)}$ die per trial $k$ veranderen. Deze matrices worden beperkt tot de Stiefel-manievold (de ruimte van alle orthonormale matrices), wat zorgt voor identificeerbaarheid van de onderliggende subruimte.
2. Geometrische Evolutie: De evolutie van de emissiematrices over trials wordt gemodelleerd via een "displacement" variabele $z^{(k)}$. Deze variabele definieert een schuif-symmetrische matrix $B^{(k)}$ die via de Cayley-transformatie wordt gemapt naar een orthogonale matrix.
   • De matrix $B^{(k)}$ bestaat uit twee delen: $W$ (rotaties binnen de subruimte) en $V$ (beweging loodrecht op de subruimte, wat de drift veroorzaakt).
3. Gedeelde Dynamica: De onderliggende dynamische parameters (de overgangsmatrix $A$ en het procesruis) blijven constant over trials. Alleen de mapping naar de observaties (de emissie) verandert.
4. Inferentie: Omdat de exacte posterieure verdeling onberekenbaar is, gebruiken de auteurs een variational expectation-maximization (EM) algoritme:
   • E-stap: Gebruik van Kalman smoothing voor de latene toestanden binnen een trial en Extended Kalman Smoothing (EKS) voor de drift-variabelen (displacements) over trials.
   • M-stap: Update van de modelparameters ($A, Q, R$, en de drift-snelheden) op basis van de geschatte posterieuren.

Belangrijkste Bijdragen

1. Nieuw Modelkader: SMDS is de eerste methode die representational drift expliciet modelleert als een gladde evolutie van de emissiematrix op een Riemanniaanse variëteit (Stiefel-manievold), terwijl de onderliggende neurale dynamica stabiel blijft.
2. Identificeerbaarheid: Door de orthonormale parametrisatie en het gebruik van de Grassmann-afstand, kunnen de auteurs drift onderscheiden van rotaties binnen de latente ruimte, wat een eenduidige interpretatie mogelijk maakt.
3. Efficiënte Inferentie: Het ontwikkelen van een schaalbaar inferentie-algoritme dat variational inference combineert met extended Kalman smoothing voor niet-lineaire dynamica op maniefolden.
4. Per-dimensie Driftanalyse: Het model maakt het mogelijk om drift te decomponeren per individuele latente dimensie, in plaats van alleen een globale maatstaf te geven.

Resultaten

De auteurs hebben SMDS getest op zowel gesimuleerde data als echte neurale opnames van apen (macaques) en knaagdieren.

• Gesimuleerde Data:

  • SMDS recupereerde de ware latente dynamica en de driftpatronen nauwkeurig.
  • Standaard LDS faalde in niet-stationaire omgevingen: het vereiste meer latente dimensies om dezelfde activiteit te vangen en leverde een lagere log-likelihood op voor testdata.
  • SMDS kon de ware dimensionaliteit van de data identificeren, terwijl LDS hierin faalde.

• Macaque Data (Motorische Cortex - Reaching Taak):

  • SMDS presteerde significant beter dan LDS en een aangepast Conditionally Linear Dynamical System (CLDS) op basis van held-out log-likelihood.
  • Driftanalyse: Er werd een geleidelijke drift waargenomen over een sessie van 24 minuten.
  • Stabiliteit: Dimensies die meer neurale en gedragsvariatie verklaarden (belangrijk voor de taak), vertoonden minder drift dan minder informatieve dimensies. Dit suggereert dat het brein kritieke taakinformatie stabiel houdt terwijl andere aspecten van de representatie veranderen.
  • De gemeten drift varieerde per dimensie (bijv. 13° tot 50°).

• Knaagdier Data (Motorische Cortex - Directional Licking Taak):

  • Vergelijkbare resultaten: SMDS vereiste minder dimensies dan LDS en vatte de drift beter op.
  • Drift bedroeg 37° tot 67° over 30 minuten.
  • Ook hier bleek dat dimensies met hoge taakrelevantie (hoge classificatie-accuraatheid voor de richting) stabieler waren.

Betekenis en Conclusie

Deze studie biedt een krachtig wiskundig raamwerk om representational drift te kwantificeren en te interpreteren. De bevindingen suggereren dat drift geen willekeurig "ruis" is, maar een gestructureerd proces waarbij het brein de representatie van minder relevante informatie aanpast terwijl het de kern van de taakgerelateerde dynamica behoudt.

SMDS overwint de beperkingen van statische modellen zoals LDS en biedt een nieuwe manier om neurale plasticiteit en adaptatie op korte tijdschalen (minuten tot uren) te bestuderen. Dit heeft implicaties voor het begrijpen van leren, geheugen en de stabiliteit van neurale coderingen in niet-stationaire omgevingen. De code is openbaar beschikbaar, wat de reproduceerbaarheid en toepassing in andere neurowetenschappelijke studies vergemakkelijkt.