🧬 biology

The Variance Brain Foundation Models Forgot: Third-Order Statistics Predict Cognition Where Billion-Parameter Models Fail

Ondanks hun schaal falen huidige hersenfundamentmodellen erin cognitieve prestaties te voorspellen omdat hun pretraining-doelstellingen cruciale derde-orde statistische structuren (co-scheefheid) verwerpen, een beperking die overwonnen kan worden door een eenvoudige, pretraining-vrije lineaire pijplijn die deze hogere-orde kenmerken expliciet behoudt om zowel de modellen als standaard functionele connectiviteit-baselines te overtreffen.

Oorspronkelijke auteurs: Giovanni Marraffini, Gabriel Mahuas, Trinidad Borrell, Victoria Shevchenko, Demian Wassermann

Gepubliceerd 2026-06-04

📖 6 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Giovanni Marraffini, Gabriel Mahuas, Trinidad Borrell, Victoria Shevchenko, Demian Wassermann

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ⚕️ Dit is een AI-gegenereerde uitleg van een preprint die niet peer-reviewed is. Dit is geen medisch advies. Neem geen gezondheidsbeslissingen op basis van deze inhoud. Lees de volledige disclaimer

Het Grote Plaatje: Het "Slimme" Breinmodel dat de Kern Mistte

Stel je voor dat je een superintelligente student hebt (een Brain Foundation Model) die elk enkel tekstboek over hoe het brein werkt heeft gelezen. Je geeft deze student een test: "Kijk naar deze hersenscan en vertel me hoe slim deze persoon is."

Je verwacht dat deze student de test met vlag en wimpel doorstaat omdat ze enorm groot, complex zijn en getraind zijn op gigantische hoeveelheden data. Maar in plaats daarvan falen ze jammerlijk. Een simpele, ouderwetse rekenmachine (een lineaire regressie) die alleen naar de ruwe hersenscandata kijkt, haalt eigenlijk een veel hogere score.

Nog vreemder: toen de onderzoekers de "slimme student" zelfs nog groter en krachtiger maakten, werden ze juist slechter in de test.

Dit artikel legt uit waarom dit gebeurde en hoe ze het hebben opgelost.

1. Het Probleem: Luisteren naar de Verkeerde Ruis

Denk aan een hersenscan (fMRI) als een opname van een drukke straat.

De Ruis: De opname wordt gedomineerd door harde, duidelijke geluiden: het gerommel van een bus (hartslagen), de wind (ademhaling) en het geschuifel van voetstappen (hoofdverplaatsingen). Dit zijn de "dominante" geluiden.
Het Signaal: Het eigenlijke gesprek tussen twee mensen (cognitief denken) is zacht en subtiel. Het is verborgen in de complexe, ritmische patronen van hoe drie of meer mensen tegelijkertijd over elkaar heen praten.

Wat de AI deed: De AI-modellen werden getraind om de opname te "reconstrueren". Hun doel was om de output exact hetzelfde te laten klinken als de input. Omdat de harde geluiden (hartslagen, ademhaling) veel luider waren dan het zachte gesprek, leerde de AI om perfect te zijn in het kopiëren van de ruis. De AI werd een expert in het voorspellen van het gerommel van de bus, maar negeerde het zachte gesprek volledig.

Het Resultaat: De AI-modellen waren zo goed in het kopiëren van de "ruis" dat ze het "signaal" vergaten. Ze faalden in het voorspellen van menselijke cognitie omdat ze te druk waren met het focussen op de harde, saaie delen van de data.

2. De "Inverse Scaling" Paradox

Normaal gesproken geldt in de AI: als je een model groter maakt (het meer hersencapaciteit geeft), wordt het slimmer.

De Bevinding van het Papier: Hier gebeurde het tegenovergestelde. De onderzoekers testten een "kleine" AI (111 miljoen parameters) en een "reusachtige" AI (650 miljoen parameters).
De Twist: De enorme AI was slechter in het voorspellen van cognitie dan de kleine AI.
Waarom? De grotere AI was zelfs nog beter in het kopiëren van de harde ruis. Het had meer capaciteit om de hartslagen en de ademhaling te memoriseren, waardoor het de subtiele cognitieve signalen nog effectiever overstemde. Het was alsof je een gigantische, supernauwkeurige microfoon huurt die alleen het verkeerslawaai versterkt en het gesprek eromheen overstemt.

3. De Oplossing: Kijken naar "Third-Order" Patronen

De onderzoekers realiseerden zich dat menselijk denken niet alleen gaat over twee hersengebieden die met elkaar communiceren (wat standaard hersenscans meestal meten). Het gaat over drie gebieden die op een specifieke, complexe manier tegelijkertijd met elkaar interageren.

De Analogie:
- Second-Order (Standaard): Twee vrienden, Alice en Bob, die met elkaar praten. Je kunt meten hoe vaak ze spreken.
- Third-Order (Het Geheime Ingrediënt): Alice, Bob en Charlie zijn in een kamer. Het interessante deel is niet alleen dat Alice met Bob praat; het is het specifieke moment waarop ze alle drie tegelijkertijd reageren op een grap. Deze complexe, driezijdige interactie is waar het "denken" zich bevindt.

De standaard AI-modellen waren blind voor deze "third-order" interactie omdat hun trainingsmethode (het proberen te kopiëren van het ruwe geluid) dit vernietigde.

4. De Fix: Het "Denoising Filter"

In plaats van te proberen een grotere AI te bous, bouwden de onderzoekers een simpel, slim filter.

De Methode: Ze gebruikten een wiskundige techniek genaamd Tucker decomposition. Zie dit als een speciale bril die de harde busgeluiden en de wind wegfiltert, waardoor alleen de complexe, driezijdige gesprekken overblijven.
Het Resultaat:
1. Ze namen de ruwe hersendata.
2. Ze haalden deze door deze "third-order filter".
3. Ze maten de verbindingen binnen deze gefilterde ruimte.
4. Boem: Deze simpele, niet-AI methode voorspelde menselijke cognitie beter dan elke van de enorme, vooraf getrainde AI-modellen. Het was zo goed dat het de vorige beste resultaten in het vakgebied versloeg, zonder dat daar een supercomputer of dure training voor nodig was.

5. Het "Fine-Tuning" Wonder

De onderzoekers vroegen zich vervolgens af: "Kunnen we de grote AI leren om dit te zien?"

Ze namen de enorme AI en gaven het een nieuwe huiswerkopdracht. In plaats van alleen "kopieer het geluid", zeiden ze tegen de AI: "Kopieer het geluid, maar zorg ervoor dat je de complexe driezijdige gesprekken intact laat."

De Uitkomst: Toen ze dit deden, werd de AI plotseling net zo goed als het simpele filter. Het ging van het falen voor de test naar het uitmuntend slagen ervan.
De Les: De AI was niet "dom" of "te klein". Het was alleen getraind met het verkeerde doel. Het probleem was niet de architectuur (het brein van het model); het probleem was het doel (wat het werd verteld om te leren).

Samenvatting van de Belangrijkste Punten

Grooter is niet altijd beter: Bij het modelleren van het brein maakte het groter maken van de AI de AI alleen maar beter in het kopiëren van de "ruis" (hartslag/beweging) en slechter in het vinden van het "signaal" (denken).
Het signaal zit verborgen in de complexiteit: Menselijke cognitie leeft in complexe, driezijdige interacties (third-order statistieken), die standaard AI-trainingsmethoden per ongeluk verwijderen.
Simpel is krachtig: Een simpel wiskundig filter dat zich richt op deze complexe interacties werkt beter dan miljarden parameters tellende AI-modellen.
Het doel is het belangrijkst: Als je een AI leert waar het naar moet kijken (het behouden van die complexe interacties), kan zelfs een standaard model de "state-of-the-art" reuzen verslaan.

In een notendop: De onderzoekers ontdekten dat de "slimme" AI-modellen te druk waren met luisteren naar het verkeerslawaai om het gesprek te kunnen horen. Door een filter te bouwen dat het verkeer dempt en de complexe groepsgesprekken versterkt, vonden ze een manier om het menselijk denken beter te voorspellen dan welke gigantische AI-model dan ook.

Technische Samenvatting: De Variantie die Brain Foundation Models Vergeten Zijn

Probleemstelling
Brain Foundation Models (BFMs) zijn zelfgesuperviseerde Transformers die zijn voorgetraind op fMRI-data met als doel rijke representaties van hersenactiviteit te leren om cognitieve prestaties te voorspellen. De heersende hypothese suggereert dat diepe Transformers, met hun capaciteit om complexe interacties te modelleren die verder gaan dan paarcorrelaties, de klassieke Functionele Connectiviteit (FC) baselines zouden moeten overtreffen. Echter, dit artikel demonstreert dat de huidige state-of-the-art BFMs (specifiek BrainLM, Brain-JEPA en BrainMass) er niet in slagen de variantie te vangen die noodzakelijk is voor cognitieve voorspelling. In plaats daarvan presteren ze slechter dan een eenvoudige lineaire regressie op ruwe FC-matrices (ongeveer 80K parameters). Bovendien identificeert het artikel een "inverse scaling"-fenomeen waarbij grotere modellen (bijv. BrainLM's 650M parameters) slechter presteren dan kleinere modellen (111M parameters), wat suggereert dat de toegenomen capaciteit wordt verspild aan het fitten van dominante, niet-cognitieve ruis in plaats van taakrelevante structuren.

Methodologie
De auteurs hanteren een rigoureus evaluatieprotocol gebaseerd op Ooi et al. [2022], gebruikmakend van gerepliceerde geneste cross-validatie (20 repetities × 10 folds) over twee datasets: AOMIC-ID1000 (N=876) en HCP (N=955), met twee parcellaties (AAL-424 en Schaefer-400).

Statistische Analyse via Cumulanten: Het artikel kadert de analyse binnen de gezamenlijke cumulaantexpansie.
- $\kappa_2$ (Tweede-orde): Representeert paar-covariantie (standaard FC).
- $\kappa_3$ (Derde-orde): Representeert drie-weg co-scheefheid (co-skewness), wat niet-Gaussische structuren vangt die onzichtbaar zijn voor FC.
  De auteurs analyseren BFM-reconstructies om te bepalen welke statistische orden behouden blijven. Ze vinden dat hoewel $\kappa_2$ gedeeltelijk behouden blijft, $\kappa_3$ grotendeels wordt vernietigd door de Mean Squared Error (MSE) pretraining-doelstelling, die prioriteit geeft aan hoog-variante fysiologische ruis (cardiale, respiratoire, bewegingsruis) boven synergetische cognitieve signalen.
Voorgestelde Lineaire Pipeline (Tucker Decompositie): Om de verloren $\kappa_3$ -structuur te herstellen zonder deep learning, stellen de auteurs een lineaire pipeline voor:
- Bereken de empirische co-skewness tensor ( $S \in \mathbb{R}^{P \times P \times P}$ ) vanuit de trainingsdata.
- Voer een Tucker-decompositie (Higher-Order SVD) uit om een laag-rang ruimtelijke subspace ( $U$ ) te extraheren die de derde-orde structuur maximaliseert.
- Projecteer de ruwe ROI-tijdreeksen in deze subspace.
- Bereken FC binnen deze $\kappa_3$ -geïnformeerde subspace.
- Voer deze features aan een Kernel Ridge Regression (KRR) voorspeller.
Finetuning Strategie: Om te testen of de BFM-architectuur zelf de bottleneck is of slechts de pretraining-doelstelling, finetunen de auteurs BrainLM met een "dual-moment" loss. Deze loss brengt de reconstructie niet alleen in lijn met het ruwe signaal, maar ook met de FC berekend binnen de optimale $\kappa_3$ -Tucker-subspace (met behulp van een Log-Cholesky afstandmetriek).

Belangrijkste Resultaten

Onderpresteren van BFM: Onder het Ooi et al. protocol bereiken alle drie de BFMs een verwaarloosbare cognitieve voorspellingsscore (Pearson $r \approx 0.00$ tot $0.18$), significant slechter dan de ruwe FC-baselines ( $r \approx 0.31$ tot $0.39$).
Inverse Scaling: In de BrainLM-familie voorspelt het 650M model de cognitie slechter dan het 111M model, wat bevestigt dat het opschalen van parameters zonder de doelstelling te veranderen, het falen om cognitieve variantie te vangen verergert.
Falen van Cumulaant-behoud: Analyse van BFM-reconstructies laat zien dat de $\kappa_2$ -fout matig is (29–47% relatieve fout), maar de $\kappa_3$ -fout catastrofaal is (NMSE 2.6–6.2 $\times$ inputenergie), wat aangeeft dat de modellen de specifieke statistische orde waar de cognitie-relevante informatie zich bevindt, verwerpen.
Superioriteit van de Tucker Subspace: De voorgestelde lineaire pipeline (FC berekend in de $\kappa_3$ $κ_{3}$ -optimale Tucker-subspace) stelt een nieuwe state-of-the-art (SOTA) vast voor rusttoestand fMRI cognitie-voorspelling. Het presteert beter dan de ruwe FC en alle voorgetrainde BFMs over alle datasets en parcellaties zonder pretraining of GPU's te vereisen.
- Op HCP Schaefer-400 bereikt de methode $r = 0.571 \pm 0.089$ , waarmee het eerdere SOTA-resultaten (bijv. $r = 0.520$ voor principal gradients) overtreft.
Herstel via Finetuning: Wanneer BrainLM wordt gefinetuned met de cumulaant-geïnformeerde loss (dual-moment), herstelt de reconstructie-gebaseerde FC-voorspelling de ruwe-FC plafond ( $r \approx 0.39$ op HCP, wat overeenkomt met de baseline). Dit bewijst dat de bottleneck de pretraining-doelstelling is, en niet de Transformer-architectuur of de modelgrootte.
Embedding Falen: Ondanks het succes van de reconstructie-output, blijven de CLS-embeddings van de BFMs nabij nul in voorspellende kracht, zelfs na finetuning, wat suggereert dat de latente geometrie vaststaat tijdens pretraining en niet wordt geherorganiseerd door de decoder-niveau loss.

Betekenis en Claims
Het artikel claimt dat het falen van brain foundation models niet komt door een gebrek aan capaciteit, maar door een "variance allocation problem" dat inherent is aan reconstructie-gebaseerde pretraining-doelstellingen. Deze doelstellingen geven prioriteit aan dominante fysiologische ruis ( $\kappa_2$ ) en verwerpen hogere-orde synergetische informatie ( $\kappa_3$ ) die cognitie voorspelt.

De auteurs betogen dat:

Evaluatiestandaarden: Foundation models moeten worden geëvalueerd tegen klassieke domeinkennis-baselines (zoals ruwe FC) voordat er verder wordt opgeschaald.
Expliciete Decompositie: Wanneer de taak-relevante subspace bekend is (in dit geval de $\kappa_3$ -optimale subspace), zijn expliciete lineaire decomposities (Tucker) schoner en effectiever dan het leren van latente representaties via zelf-supervisie.
Doelstelling vs. Architectuur: De bottleneck in BFM-prestaties is de pretraining-doelstelling, niet de modelarchitectuur. Het afstemmen van de loss-functie op de specifieke statistische structuur van de taak (derde-orde co-skewness) kan prestaties herstellen zonder de modelstructuur te veranderen.

Het artikel concludeert dat de cognitie-relevante structuur in rusttoestand fMRI zich ten minste op de derde cumulaant bevindt, en dat eenvoudige, GPU-vrije lineaire pipelines die deze structuur exploiteren, momenteel miljarden-parameter foundation models overtreffen.