💻 computer science

A Hierarchical Ensemble Inference Pipeline for Robust White Blood Cell Classification Under Domain Shifts

Dit artikel presenteert een hiërarchische ensemble-pipeline met geheugenaugmentatie en een DinoBloom-backbone die is ontworpen voor robuuste classificatie van witte bloedcellen onder invloed van domeinverschuivingen.

Oorspronkelijke auteurs: Ruyi Dai, Tingkwong Ng, Hao Chen

Gepubliceerd 2026-04-28

📖 4 min leestijd☕ Koffiepauze-leesvoer

CC BY 4.0

Oorspronkelijke auteurs: Ruyi Dai, Tingkwong Ng, Hao Chen

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een enorme berg met duizenden verschillende soorten knikkers moet sorteren. Sommige lijken sprekend op elkaar, andere zijn heel zeldzaam, en bovendien worden de knikkers steeds anders belicht of gefotografeerd, waardoor de kleuren en schaduwen telkens veranderen. Dat is precies de uitdaging waar deze wetenschappers voor stonden, maar dan met witte bloedcellen in plaats van knikkers.

Hier is een eenvoudige uitleg van hun onderzoek:

Het probleem: De "verwarrende" bloedcel-detectie

Witte bloedcellen zijn de soldaten van ons immuunsysteem. Door ze te bekijken, kunnen artsen zien of iemand bijvoorbeeld leukemie heeft. Maar er is een probleem: een computer die getraind is op foto's uit laboratorium A, raakt volledig in de war als hij foto's uit laboratorium B krijgt. De belichting is anders, de kleur van de kleurstof is net iets anders, en de scanner werkt anders. Dit noemen we een 'domain shift'. Bovendien zijn sommige zieke cellen (zoals 'blast cellen') heel zeldzaam, waardoor de computer ze makkelijk over het hoofd ziet.

De oplossing: Een slimme "Gelaagde Detective"

De onderzoekers hebben een systeem gebouwd dat niet zomaar één keer naar een cel kijkt en meteen een oordeel velt. In plaats daarvan gebruiken ze een proces dat we een "Hiërarchische Ensemble Pipeline" noemen. Je kunt dit vergelijken met een detective die een onderzoek in drie slimme stappen aanpakt:

Stap 1: De "Super-Geheugen" Training (LoRA & DinoBloom)

In plaats van de computer vanaf nul te leren wat een cel is, geven ze hem een "slimme bril" op. Ze gebruiken een model dat al heel veel weet over vormen en kleuren (DinoBloom) en passen dit heel gericht aan met een techniek genaamd LoRA.

De metafoor: Het is alsof je een ervaren kunstkenner een korte cursus geeft over specifiek bloedcellen. Hij hoeft niet opnieuw te leren wat een kleur is, hij leert alleen de subtiele details van deze specifieke "schilderijen".

Stap 2: De "Grote Fotolijst" (Feature Bank)

De computer maakt een enorme digitale bibliotheek aan van alle cellen die hij al kent. Elke cel krijgt een unieke "vingerafdruk" (een embedding).

De metafoor: Denk aan een enorme encyclopedie met foto's. Als de computer een nieuwe, onbekende cel ziet, kijkt hij niet alleen naar zijn eigen geheugen, maar vergelijkt hij de nieuwe cel razendsnel met alle foto's in de encyclopedie om te zien welke het meest lijkt op de nieuwe cel.

Stap 3: De "Gelaagde Sorteermachine" (Hierarchical kNN)

Dit is het meest ingenieuze deel. In plaats van direct te zeggen: "Dit is een Type X cel", werkt de computer met een stamboom (hiërarchie).

Eerst de grote groep: Is het een Myeloïde cel of een Lymfoïde cel? (De grote familie).
Dan de subgroep: Als het een Myeloïde cel is, is het dan een Neutrofiel of een Eosinefiel? (De familieleden).
Dan de specifieke naam: En uiteindelijk de exacte soort.

De metafoor: Stel je voor dat je een dier moet benoemen. Je zegt niet meteen: "Het is een Golden Retriever". Je zegt eerst: "Het is een dier", dan "Het is een hond", en pas als laatste: "Het is een Golden Retriever". Door deze stappen te volgen, voorkom je dat je een hond per ongeluk voor een kat aanziet. Als de computer de eerste stap goed doet, is de kans veel groter dat hij de laatste stap ook goed doet.

Waarom is dit belangrijk?

Door deze gelaagde aanpak en door de resultaten van verschillende "experts" (modellen) samen te voegen (het Ensemble), is het systeem veel robuuster. Het laat zich niet zomaar foppen door een andere camera of een andere kleur kleurstof.

Kortom: De onderzoekers hebben een systeem gebouwd dat niet alleen kijkt naar wat een cel is, maar ook naar de familiebanden van de cel, waardoor het veel nauwkeuriger en betrouwbaarder wordt in het opsporen van ernstige ziektes zoals leukemie.

Technische Samenvatting: Een Hiërarchische Ensemble Inference Pipeline voor Robuuste Classificatie van Witte Bloedcellen onder Domeinverschuivingen

1. Probleemstelling

De automatische classificatie van witte bloedcellen (WBC) is essentieel voor de grootschalige screening van leukemie. In de praktijk stuiten deep learning-modellen echter op grote uitdagingen door domeinverschuivingen (domain shifts). Deze verschuivingen worden veroorzaakt door variaties in kleuringsprotocollen, verschillende scannerkenmerken en verschillen tussen laboratoria. Bovendien bemoeilijken extreme klassenonbalans (waarbij bepaalde zeldzame, klinisch kritieke cellen zoals blastcellen minder vaak voorkomen) en subtiele visuele verschillen tussen celtypen de nauwkeurige diagnostiek.

2. Methodologie

De auteurs stellen een drie-fasen pipeline voor die gebruikmaakt van een hiërarchische aanpak om robuustheid te vergroten:

Fase I: Fine-tuning (Training):
Er wordt gebruikgemaakt van een DinoBloom-backbone (een Vision Transformer-gebaseerd model) die wordt aangepast via LoRA (Low-Rank Adaptation). Dit maakt efficiënte fine-tuning mogelijk zonder alle parameters te hoeven trainen. De training combineert een zelfgesuperviseerde aanpak (DINO-stijl verlies met een EMA teacher-student schema) met een gesuperviseerde aanpak (class-balanced cross-entropy). Hierbij wordt een hematologische hiërarchie (Myeloïde, Lymfoïde, Blast) gebruikt om de training te ondersteunen.
Fase II: Constructie van de Feature Bank:
Na de training worden de $\ell_2$ -genormaliseerde embeddings van alle trainingsafbeeldingen opgeslagen in een centrale "feature bank". Elke embedding is gekoppeld aan zijn volledige hiërarchische label (van grove lijnage tot specifiek celtype).
Fase III: Hiërarchische kNN Inference:
In plaats van enkel een directe classificatie, gebruikt het model k-Nearest Neighbors (kNN) retrieval. De inferentie verloopt van grof naar fijn:
1. Eerst wordt de algemene lijnage bepaald via meerderheidsstemming (majority voting) op de buren.
2. Vervolgens worden de kandidaten voor het volgende niveau beperkt tot de "kinderen" van de eerder voorspelde ouder. Dit dwingt hiërarchische consistentie af en voorkomt dat het model een specifiek celtype voorspelt dat niet bij de algemene categorie past.

3. Belangrijkste Bijdragen

Coarse-to-fine strategie: Een hiërarchische ensemble-inferentiestrategie die specifiek is ontworpen om fouten bij zeldzame klassen te verminderen.
Efficiënte adaptatie: Het gebruik van LoRA voor het fine-tunen van een krachtige DinoBloom-backbone, wat resulteert in zeer overdraagbare (transferable) embeddings.
Multi-split Ensemble: Het toepassen van majority voting over meerdere model-splits om de voorspellingen te stabiliseren tegen domeinverschuivingen.

4. Resultaten

Het model werd geëvalueerd op de WBCBench dataset (ISBI 2026 Challenge):

Prestaties: De voorgestelde methode behaalde een Macro F1-score van 0,682, waarmee het in de top tien van de competitie eindigde.
Vergelijking: DinoBloom met LoRA presteerde beter dan traditionele supervised modellen zoals ResNet-50, ViT-B en zelfs de volledige fine-tuning van ConvNeXt-L.
Ablatie-studies: De resultaten toonden aan dat de hiërarchische beperking (hierarchy constraint) cruciaal is. Zonder deze hiërarchie lag de F1-score aanzienlijk lager (rond de 0,625), wat bewijst dat de hiërarchische structuur helpt om de bias naar meerderheidsklassen te verminderen en de nauwkeurigheid van zeldzame celtypen te verbeteren.

5. Betekenis

Dit onderzoek is klinisch relevant omdat het aantoont dat een combinatie van zelfgesuperviseerd leren, efficiënte parameter-adaptatie (LoRA) en hiërarchische logica een model kan creëren dat bestand is tegen de variabiliteit van echte medische laboratoria. De methode biedt een robuust kader voor het detecteren van kritieke celtypen, wat essentieel is voor een betrouwbare automatische screening van bloeduitstrijkjes.