🤖 machine learning

Rhamba: Region-Aware Hybrid Attention-Mamba Framework for Self-Supervised Learning in Resting-State fMRI

Rhamba is een nieuw zelftoezichtend voortrainingskader voor rusttoestand-fMRI dat anatomisch geleide masking integreert met hybride Attention-Mamba-architecturen om state-of-the-art prestaties te bereiken bij de classificatie van schizofrenie en ADHD, terwijl interpretatie en schaalbaarheid in evenwicht worden gehouden.

Oorspronkelijke auteurs: Ruthwik Reddy Doodipala, Pankaj Pandey, Pratheek Eranki, Carolina Torres-Rojas, Manob Jyoti Saikia, Ranganatha Sitaram

Gepubliceerd 2026-05-05

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Ruthwik Reddy Doodipala, Pankaj Pandey, Pratheek Eranki, Carolina Torres-Rojas, Manob Jyoti Saikia, Ranganatha Sitaram

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je hersenen een enorme, drukke stad zijn met duizenden wijken (regio's) die 24/7 met elkaar praten. Wanneer je rustig zit, voeren deze wijken stille gesprekken en sturen ze signalen heen en weer. Wetenschappers gebruiken een speciale camera, een fMRI, om "films" van deze gesprekken te maken. Maar hier zit het probleem: deze films zijn enorm, rommelig, en we hebben niet genoeg gelabelde voorbeelden (zoals "deze film is van een gezonde persoon" versus "deze is van iemand met ADHD") om computers te leren ze te begrijpen.

Het artikel introduceert Rhamba, een nieuwe manier om computers te leren deze hersenfilms te begrijpen zonder dat een leraar elk enkel frame moet labelen. Denk aan Rhamba als een "hersendetective" die leert door een spelletje "invullen" te spelen.

Hier is hoe het werkt, opgesplitst in eenvoudige concepten:

1. Het Spel: "Verstoppeertje" met Hersenwijken

Normaal gesproken, wanneer computers proberen te leren van hersendata, verbergen ze misschien willekeurige pixels (kleine stippen) in de afbeelding en vragen ze de computer om te raden wat er ontbreekt. Het is alsof je een puzzel probeert af te maken door te kijken naar willekeurige stukjes die over de vloer liggen.

Rhamba verandert de regels. In plaats van willekeurige pixels te verbergen, verbergt het hele wijken op basis van een kaart van de hersenen (een atlas).

De "Elke" Strategie: Het verbergt een wijk, zelfs als het stukje pixels er maar net toe behoort. (Alsof je zegt: "Dit stukje is 10% 'Keuken' en 90% 'Woonkamer', dus laten we het verbergen als een Keuken-stukje.")
De "Meerderheid" Strategie: Het verbergt een stukje alleen als meer dan de helft ervan tot die wijk behoort.
De "Pure" Strategie: Het verbergt alleen stukjes die 100% uit één specifieke wijk bestaan. (Alsof je een stukje verbergt dat puur "Keuken" is, zonder Woonkamer erdoorheen.)

De computer moet naar de rest van de hersenfilm kijken en raden wat de verborgen wijk aan het doen was. Door dit spel miljoenen keren te spelen, leert de computer hoe verschillende hersenwijken zich normaal gedragen en met elkaar praten.

2. Het Brein: Twee Superkrachten Mixen

Om dit spel te spelen, heeft de computer een eigen brein nodig. De auteurs testten verschillende soorten "hersenen" (architecturen) om te zien welke het beste leert:

De Mamba: Dit is als een supersnelle hardloper die goed is in het onthouden van lange reeksen gebeurtenissen (zoals de tijdsflow in de film), maar soms het grote plaatje mist van hoe alles tegelijk samenhangt.
De Attention: Dit is als een detective die naar de hele kamer tegelijk kan kijken en ziet hoe iedereen met elkaar verbonden is, maar het wordt moe en traag als de film te lang is.
De Hybride (Rhamba's Geheime Ingrediënt): Rhamba combineert ze. Het gebruikt Attention om het grote plaatje te begrijpen en Mamba om het lange tijdsverloop efficiënt te volgen. Het is alsof je een detective hebt die de hele kamer kan zien én een marathon kan lopen zonder moe te worden.

Het artikel vond dat deze Hybride aanpak (specifiek de Mamba-Attention mix) de beste detective was. Het presteerde beter dan modellen die alleen de hardloper (Mamba) of alleen de detective (Attention) gebruikten.

3. De Resultaten: Moeilijker is Niet Altijd Beter

De onderzoekers verwachtten dat het spel moeilijker maken (door zeer "pure" wijken te verbergen) de computer slimmer zou maken.

Wat er echt gebeurde: De computer vond het "Pure" spel inderdaad makkelijker op te lossen (het maakte minder fouten bij het raden van de ontbrekende delen).
De Twist: Goed zijn in het makkelijke spel maakte de computer niet beter in de echte baan (het diagnosticeren van ziekten). Sterker nog, de "rommeligere" spellen (het verbergen van gemengde wijken) leerden de computer eigenlijk betere vaardigheden voor de echte wereld.
De Les: Alleen omdat een model een ontbrekend stukje van een puzzel perfect kan reconstrueren, betekent het niet dat het het verhaal begrijpt. De "rommelige" spellen dwongen de computer om te leren hoe verschillende hersenwijken met elkaar interageren, en dat is wat het echt helpt om verschillen te spotten tussen gezonde hersenen en die met aandoeningen zoals Schizofrenie of ADHD.

4. De Realiteitstest

Na training op een enorme dataset van rustende hersenen (ABIDE), testte het team Rhamba op twee specifieke groepen:

Schizofrenie-patiënten (COBRE dataset): Rhamba was zeer goed in het opsporen van de verschillen.
ADHD-patiënten (ADHD-200 dataset): Rhamba was ook zeer goed, vooral in het onderscheiden van de subtiele verschillen in hoe deze hersenen verbonden zijn.

In beide gevallen versloeg Rhamba de vorige "state-of-the-art" modellen. Het was bijzonder goed in het kijken naar specifieke hersengebieden zoals het Limbische systeem (emotie), Cerebellum (coördinatie) en Temporale regio's (geheugen/geluid) om zijn beslissingen te nemen.

5. Waarom Dit Belangrijk Is (In Eenvoudige Woorden)

Geen Labels Nodig: Het leert van ruwe data zonder dat een arts elke scan moet labelen.
Slimmere Architectuur: Het bewijst dat het mixen van twee verschillende soorten AI (Attention en Mamba) beter werkt dan het gebruik van slechts één.
Beter "Maskeren": Het laat zien dat het verbergen van hele hersenwijken (in plaats van willekeurige pixels) de AI helpt de structuur van de hersenen beter te leren.
Interpreteerbaarheid: De AI kan aangeven welke delen van de hersenen het bekeek om een beslissing te nemen, en die delen (zoals de emotionele of geheugencentra) zijn logisch voor menselijke artsen.

Kort samengevat: Rhamba is een nieuwe, slimmere manier om computers te leren hersenfilms te lezen. Het doet dit door hele hersenwijken te verbergen in plaats van willekeurige pixels, en door een hybride brein te gebruiken dat zowel snel als waakzaam is. Dit helpt het beter te worden in het opsporen van hersenaandoeningen, zelfs als de data rommelig is of uit verschillende ziekenhuizen komt.

Technische Samenvatting: Rhamba – Een Gebiedsbewust Hybride Aandacht–Mamba Framework

Probleemstelling
Zelftoezicht leren (SSL) biedt een veelbelovende weg voor grootschalige neurobeeldanalyse, maar bestaande aanpakken staan voor aanzienlijke beperkingen. Huidige methoden missen vaak een expliciete integratie van neuroanatomische structuur, en vertrouwen op willekeurige voxelmaskering of generieke grafstructuren die fijne ruimtelijke informatie kunnen opofferen. Bovendien vormen architecturale keuzes voor het modelleren van rusttoestand functionele magnetische resonantiebeeldvorming (rs-fMRI)-data een afweging: Transformer-gebaseerde modellen vangen globale interacties, maar lijden onder kwadratische complexiteit bij lange sequenties, terwijl Ruimtetijdstatenmodellen (SSM's) zoals Mamba lineaire tijds-efficiëntie bieden maar mogelijk de flexibiliteit missen om complexe globale interacties te modelleren. Daarnaast blijft de relatie tussen pretraining-reconstructiedoelstellingen en downstream-taakprestaties onderbelicht, met name wat betreft hoe gebiedsbewuste maskeringstrategieën de representatiekwaliteit beïnvloeden.

Methodologie
De auteurs stellen Rhamba voor, een gebiedsbewust pretrainingframework ontworpen voor grootschalige rs-fMRI-analyse. De methodologie rust op drie kernontwerpprincipes:

Gebiedsbewuste Tokenisatie en Maskering:
- Anatomische Uitlijning: Het framework maakt gebruik van de Automated Anatomical Labeling (AAL3)-atlas om 4D fMRI-volumes (genormaliseerd naar MNI152-ruimte) uit te lijnen met anatomisch gedefinieerde Regions of Interest (ROIs).
- Patchgeneratie: Volumes worden opgedeeld in niet-overlappende $6 \times 6 \times 6$ voxel-patches.
- Maskeringstrategieën: Drie distincte maskeringstrategieën worden geïmplementeerd op basis van de mate van anatomische homogeniteit binnen een patch:
  - Any: Een patch wordt gemaskeerd als deze ten minste één voxel bevat die behoort tot een specifieke macro-regio.
  - Majority: Een patch wordt alleen gemaskeerd als meer dan 50% van de voxels in de patch tot de doel-macro-regio behoren.
  - Pure: Een patch wordt alleen gemaskeerd als het dominante anatomische label ten minste 70% van de gelabelde voxels uitmaakt, waardoor hoge ruimtelijke homogeniteit wordt gewaarborgd.
Hybride Aandacht–Mamba Architectuur:
- De ruggengraat is gebaseerd op NeuroSTORM, een fundamenteel model dat Shifted-Window Mamba (SWM)-blokken gebruikt.
- De auteurs experimenteren met vier architecturale varianten om de optimale integratie van aandacht- en ruimtetijdstatenmechanismen te bepalen:
  - Mamba-only: Zuivere ruimtetijdstatenmodellering.
  - Alternate: Afwisselende Mamba- en Aandacht-blokken.
  - Attention–Mamba (AM): Aandacht-blokken in de encoder, Mamba in de decoder.
  - Mamba–Attention (MA): Mamba-blokken in de encoder, Aandacht in de decoder.
- Het model hanteert een masked autoencoder (MAE)-doelstelling, waarbij ontbrekende ruimtetijd-patches tijdens pretraining worden gereconstrueerd.
Training- en Evaluatiepijplijn:
- Pretraining: Uitgevoerd op de ABIDE-dataset (1.041 proefpersonen) met de drie maskeringstrategieën en vier architecturale varianten.
- Fine-tuning: Voorgeladen modellen werden aangepast voor binaire classificatietaken (Schizofrenie versus Controle; ADHD versus Controle) met behulp van de COBRE- en ADHD-200-datasets.
- Interpreteerbaarheid: Integrated Gradients met SmoothGrad Squared (IG-SQ) werden gebruikt om attributiekaarten te genereren, waarmee hersengebieden die bijdragen aan modelvoorspellingen werden geïdentificeerd.

Belangrijkste Bijdragen

Rhamba Framework: Introductie van een gebiedsbewuste hybride architectuur die anatomisch geleide maskering integreert met hybride Aandacht–Mamba-ruggengraten voor rs-fMRI.
Anatomisch Geleide Maskering: Voorstel van een systematische aanpak voor tokenisatie en maskering met behulp van AAL3-parcellaties, waarbij wordt afgestapt van willekeurige voxelmaskering naar gestructureerde, gebieds-uitgelijnde verstoringen.
Architecturale Analyse: Aantonen dat het afwisselen van ruimtetijdstaten- en aandachtsmechanismen efficiënte modellering van lange sequenties mogelijk maakt, terwijl globale functionele interacties behouden blijven.
Benchmarking: Omvattende evaluatie tegen state-of-the-art fundamentele modellen, waaronder SwiFT (Transformer-gebaseerd) en NeuroSTORM (Mamba-gebaseerd).

Resultaten

Maskeringstrategie versus Reconstructie: Er was een duidelijke ordening in reconstructieverlies gebaseerd op maskeringsspecificiteit: Any > Majority > Pure. Striktere maskering (Pure) resulteerde in een lager reconstructieverlies, wat aangeeft dat homogene patches makkelijker te reconstrueren zijn.
Maskeringstrategie versus Downstream Prestaties: Het trendpatroon in reconstructieverlies vertaalde zich niet direct naar downstream classificatieprestaties. Verschillen tussen maskeringstrategieën waren bescheiden en dataset-afhankelijk. Bijvoorbeeld, in de ADHD-200-dataset leverden de "Any"- en "Pure"-strategieën vergelijkbare prestaties op, terwijl in COBRE "Any" en "Majority" vergelijkbaar waren.
Architecturale Prestaties: De Mamba–Attention (MA) configuratie behaalde consistent de hoogste gemiddelde AUROC over beide datasets.
- COBRE: Rhamba-MA (Occipital Majority) behaalde 71,32% Nauwkeurigheid en 68,44% AUROC, en presteerde beter dan SwiFT (58,38% / 61,30%) en NeuroSTORM-varianten.
- ADHD-200: Rhamba-MA (Limbic Majority) behaalde 71,44% AUROC, en overtrof SwiFT (69,06%) en NeuroSTORM, hoewel de nauwkeurigheid vergelijkbaar was met SwiFT.
Gebiedsgerichte Analyse: Pieprestaties hingen af van de interactie tussen maskeringstrategie en architectuur in plaats van één dominante regio. Bijvoorbeeld, de Temporale regio presteerde het beste met MA in COBRE, terwijl de Limbische regio pieprestaties liet zien met MA in ADHD-200.
Interpreteerbaarheid: Attributiekaarten benadrukten regio's die consistent waren met bekende neurobiologische profielen voor de respectievelijke stoornissen (bijv. DMN en frontopariëtale netwerken voor ADHD; DMN en thalamocorticale netwerken voor Schizofrenie).

Betekenis en Claims
Het artikel claimt dat Rhamba een flexibel framework biedt voor het balanceren van interpreteerbaarheid, schaalbaarheid en prestaties in grootschalig fMRI-representatieleren. Belangrijkste bevindingen zijn:

Reconstructie versus Representatie: Reconstructiemoeilijkheid is geen betrouwbare proxy voor representatiekwaliteit. Heterogene maskering (Any), ondanks een hoger reconstructieverlies, bevordert het ontstaan van meer overdraagbare kenmerken door kruisregionale integratie te stimuleren.
Hybride Superieure: De MA-configuratie onderstreept het belang van het combineren van globale contextmodellering (via Aandacht) met efficiënte sequentiedynamiek (via Mamba) om zowel gedistribueerde netwerkinteracties als langeafstandstemporele afhankelijkheden te vangen.
Robuustheid: Gebiedsbewuste pretraining blijft effectief, zelfs in heterogene, multi-site datasets (zoals ADHD-200) waar anatomische uitlijning varieert, wat suggereert dat het framework functioneel relevante patronen vangt die verder gaan dan strikte anatomische correspondentie.
Toekomstige Richting: Het werk suggereert dat pretrainingdoelstellingen en architecturaal ontwerp gezamenlijk moeten worden beschouwd. Het stelt voor dat anatomisch geïnformeerde zelftoezicht een principieel hulpmiddel is voor het onderzoeken van functioneel relevante hersenorganisatie, mits er een duidelijk onderscheid bestaat tussen representatielerend gedrag en onderliggende neurobiologische mechanismen.