📊 statistics

Bayesian uncertainty-aware deep learning with noisy labels: Tackling annotation ambiguity in EEG seizure detection

Dit artikel introduceert BUNDL, een nieuw, model-agnostisch Bayesiaans deep learning-algoritme dat een op KL-divergentie gebaseerde verliesfunctie gebruikt om labelruis bij EEG-epileptische aanvaldetectie te verwerken, waardoor de robuustheid en generaliseerbaarheid van het model worden verbeterd zonder extra parameters toe te voegen.

Oorspronkelijke auteurs: Deeksha M. Shama, Archana Venkataraman

Gepubliceerd 2026-06-25

📖 6 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Deeksha M. Shama, Archana Venkataraman

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Het Kernprobleem: Leren met een "Slecht Leerboek"

Stel je voor dat je een leraar bent die een student (een AI-computerprogramma) probeert te trainen om epileptische aanvallen te herkennen aan de hand van hersengolfregistraties (EEG). Om dit te doen, geef je de student een leerboek vol voorbeelden van aanvallen en normaal hersenactiviteit.

Er is echter een groot probleem: Het leerboek is geschreven door mensen die fouten maken.

In de medische wereld kijken artsen naar deze complexe hersengolven en markeren waar een aanval begint en eindigt. Maar omdat de signalen ruisachtig en moeilijk te lezen zijn, zijn artsen het vaak oneens. Soms markeren ze een aanval als beginnend eerder dan het eigenlijk gebeurde (over-segmentatie), of ze missen het exacte eindtijdstip. Dit wordt "labelruis" genoemd.

Als je je AI-student traint met dit imperfecte leerboek, zal de student de fouten aanleren. De student zal denken dat "ruis" onderdeel is van een aanval, of raakt in de war over wanneer een aanval werkelijk plaatsvindt. Dit maakt de AI onbetrouwbaar.

De Oplossing: BUNDL (De "Sceptische Student")

De auteurs hebben een nieuwe trainingsmethode ontwikkeld genaamd BUNDL (Bayesian Uncertainty-aware Deep Learning).

Zie BUNDL niet als een nieuw type student, maar als een nieuwe onderwijsstrategie die de student slimmer maakt in de vraag wanneer hij het leerboek moet vertrouwen.

Zo werkt het, met behulp van een analogie:

De "Vertrouwenscheck" (Monte Carlo Dropout):
Normaal gesproken geeft de AI één antwoord als hij naar een hersengolf kijkt: "Dit is een aanval."
Met BUNDL wordt de AI gedwongen om naar dezelfde hersengolf meerdere keren te kijken, maar elke keer negeert hij een willekeurig deel van zijn eigen brein (een techniek genaamd dropout).
- Als de AI elke keer "Aanval" zegt, is hij zelfverzekerd.
- Als de AI soms "Aanval" en soms "Normaal" zegt, is hij onzeker.
De "Vertrouwensmeter" (Onzekerheid als indicator voor ruis):
De auteurs realiseerden zich dat wanneer de AI onzeker is over een specifieke hersengolf, dit meestal komt doordat het menselijke label in het leerboek fout of ambigu is.
- Hoge vertrouwensgraad: De AI vertrouwt het label in het leerboek.
- Hoge onzekerheid: De AI denkt: "Wacht even, ik ben in de war. Het leerboek zegt dat dit een aanval is, maar mijn eigen analyse is wankel. Het leerboek kan hier wel eens fout zijn."
De "Slimme Correctie" (De Loss Function):
In plaats van blindelings het antwoord uit het leerboek te accepteren, gebruikt BUNDL een wiskundige formule om de les aan te passen.
- Als de AI onzeker is, leunt hij minder op het menselijke label en meer op zijn eigen patroonherkenning.
- Het zegt in feite: "Ik zal leren van dit voorbeeld, maar ik vertrouw de tijdstempel van de mens niet voor 100% omdat de data er rommelig uitziet."

Waarom is dit beter dan andere methoden?

Er zijn andere manieren om met slechte leerboeken om te gaan, maar die hebben nadelen:

De "Redacteur"-aanpak (Pruning): Sommige methoden proberen de "slechte" pagina's uit het leerboek te gooien voordat de training begint. Maar bij EEG-data is het moeilijk te weten welke pagina's echt slecht zijn, waardoor je belangrijke informatie kunt weggooien.
De "Vertaler"-aanpak (Noise Layers): Sommige methoden voegen een complexe extra laag toe aan de AI om de ruizige labels te "vertalen" naar schone labels. Dit maakt de AI veel groter, trager en moeilijker te bouwen.

BUNDL is anders omdat:

Het Lichtgewicht is: Het voegt geen nieuwe onderdelen toe aan de AI. Het verandert alleen hoe de AI leert van de bestaande data.
Het Universeel is: Het kan in bijna elk bestaand AI-model worden geplaatst (zoals een universele adapter).
Het Efficiënt is: Het vereist niet het opslaan van enorme hoeveelheden historische data of het draaien van meerdere aparte trainingsfasen.

De Resultaten: Heeft het gewerkt?

De onderzoekers hebben BUNDL getest op drie zaken:

Nepdata: Ze maakten computergesimuleerde hersengolven waarbij ze precies wisten waar de fouten zaten.
Echte ziekenhuisdata (TUH & CHB-MIT): Ze gebruikten echte patiëntgegevens van twee verschillende ziekenhuizen.
Nieuwe data (Siena): Ze testten of de AI kon werken op data van een derde ziekenhuis dat hij nog nooit eerder had gezien.

De bevindingen:

Minder valse alarmen: De grootste overwinning was dat BUNDL het aantal vals-positieven aanzienlijk verminderde. In medische termen betekent dit dat de AI minder vaak "Wolf!" riep wanneer er geen aanval was. Dit is cruciaal, omdat artsen niet wakker willen worden door valse alarmen.
Betere lokalisatie: De AI werd beter in het aanwijzen van waar in de hersenen de aanval begon (Seizure Onset Zone). Dit is belangrijk voor chirurgen die precies moeten weten welk deel van de hersenen ze moeten opereren.
Robuustheid: Zelfs toen de menselijke labels erg rommelig waren (over-gesegmenteerd), bleef BUNDL goed presteren, terwijl andere methoden moeite hadden.

De Kanttekeningen (Wat het paper toegeeft)

Het is een trainingsinstrument, geen nieuw brein: BUNDL is geen nieuw AI-model; het is een manier om bestaande modellen beter te trainen.
Gevoeligheid-afweging: In sommige gevallen, door zo voorzichtig te zijn met valse alarmen, miste de AI een aantal werkelijke aanvallen (lagere sensitiviteit). De auteurs merken op dat dit waarschijnlijk komt omdat de menselijke labels zelf onnauwkeurig waren, dus de AI had gelijk om sceptisch te zijn.
Computationele kosten: Omdat de AI de data meerdere keren moet bekijken om zijn vertrouwen te controleren, duurt de training iets langer dan bij standaardmethoden. Echter, zodien de AI getraind is, draait hij op normale snelheid.

Samenvatting

Stel je voor dat je probeert te leren autorijden met een GPS die soms verkeerde instructies geeft.

De oude manier: Je vertrouwt de GPS blindelings en crasht.
Andere nieuwe manieren: Je huurt een tweede GPS in om met de eerste te discussiëren (duur en traag).
De BUNDL-manier: Je leert merken wanneer de GPS twijfelt of vage instructies geeft. Wanneer hij twijfelt, vertrouw je meer op je eigen ogen en verkeersborden. Je hebt geen tweede GPS nodig; je hoeft alleen maar slimmer te worden in wanneer je de eerste vertrouwt.

BUNDL maakt AI "sceptisch" tegenover slechte menselijke labels, wat leidt tot een betrouwbaardere detectie van aanvallen zonder dat de AI vanaf de grond opnieuw gebouwd hoeft te worden.

Technische Samenvatting: Bayesian Uncertainty-aware Deep Learning voor Ruisende Seizure-labels in EEG

Probleemstelling
Deep learning heeft de geautomatiseerde detectie van epileptische insulten (seizures) en de lokalisatie van de onset-zone gevorderd; de effectiviteit hiervan is echter sterk afhankelijk van hoogwaardige geannoteerde trainingsdata. Scalp-EEG-signalen zijn inherent ruisgevoelig en gevoelig voor artefacten, wat leidt tot onnauwkeurige handmatige annotaties van het tijdstip en de kenmerken van een seizure door clinici. Onderzoek wijst uit dat de overeenstemming tussen clinici bij het interpreteren van EEG-data vaak laag is (rond de 60%), wat resulteert in "labelruis", waarbij de verstrekte annotaties slechts benaderend correct zijn. Deze ruis vormt een aanzienlijke uitdaging: standaard supervised learning-modellen, die uitgaan van nauwkeurige "ground truth"-labels, kunnen misleidende kenmerken aanleren, wat leidt tot een slechte generalisatie over heterogene patiëntengroepen. Bestaande methoden voor het omgaan met labelruis vereisen vaak complexe architecturale wijzigingen, extra leerbare parameters, multi-stage training, of vertrouwen op "hard pruning"-strategieën die het risico lopen waardevolle datapunten te verwijderen.

Methodologie: BUNDL
De auteurs stellen BUNDL (Bayesian Uncertainty-aware Deep Learning) voor, een model-agnostisch trainingsframework dat ontworpen is om deep neural networks te informeren over label-ambiguïteit zonder de bestaande architecturen te wijzigen of parameters toe te voegen.

Probabilistisch Framework: BUNDL modelleert de relatie tussen geobserveerde EEG-data ( $x$ ), niet-geobserveerde "schone" labels ( $y_c$ ), en geobserveerde ruisende labels ( $y_n$ ) met behulp van een Bayesiaans grafisch model. Het behandelt het ruisende label als een willekeurige variabele die wordt beïnvloed door zowel de werkelijke seizure-status als de geobserveerde data.
Uncertainty-Driven Label Correctie: De kerninnovatie is het gebruik van Monte Carlo Dropout (MCD) om de betrouwbaarheid van labels ( $z_{x,y_n}$ ) te schatten. Tijdens de training voert het model meerdere forward passes uit met dropout ingeschakeld om een empirische distributie van voorspellingen te genereren. De entropie van deze voorspellingen dient als een proxy voor labelruis; een hoge entropie duidt op onzekerheid over een sample, wat suggereert dat het verstrekte label mogelijk ruis bevat.
Nieuwe Loss-functie: In plaats van de standaard cross-entropy te minimaliseren tussen voorspellingen en ruisende labels, minimaliseert BUNDL de KL-divergentie tussen de voorspelling van het netwerk en een afgeleide "schone" label posterior distributie ( $p(y_c|x)$ $p (y_{c} ∣ x)$ ). Deze posterior is een gewogen combinatie van het label van de clinicus en de eigen voorspelling van het model, waarbij het gewicht wordt bepaald door de onzekerheidsmaat $z_{x,y_n}$ $z_{x, y_{n}}$ .
- Wanneer de onzekerheid laag is, vertrouwt het model op het label van de clinicus.
- Wanneer de onzekerheid hoog is, vertrouwt het model meer op zijn eigen geleerde voorspellingen, waardoor potentieel ruisende annotaties effectief worden gedownweight.
Trainingsstrategie: Het framework maakt gebruik van een pre-training fase op samples met een hoge betrouwbaarheid (bijv. duidelijke baseline en seizure regio's) om een robuuste initiële staat te vestigen. De daaropvolgende training maakt gebruik van de BUNDL loss-functie. De methode is compatibel met elke deep network architectuur (bijv. CNNs, Transformers, RNNs) die dropout ondersteunt.

Belangrijkste Bijdragen

Uncertainty-Driven Label Correctie: Introductie van een probabilistisch trainingsframework dat onzekerheid-geïnformeerde label-transities modelleert om verschillende vormen van labelruis (symmetrische ruis, over-segmentatie, onder-segmentatie) aan te pakken zonder dat er tijdens de training "clean" ground truth labels nodig zijn.
Model-Agnostische Efficiëntie: Een trainingsalgoritme dat integreert in bestaande deep networks zonder parameters toe te voegen of computationeel intensieve multi-stage training te vereisen (in tegen tegenstelling tot Noise Adaptation Layers). Het maakt gebruik van parallelle batch-verwerking van MC-samples voor efficiëntie.
Gestandaardiseerde Benchmarking: Ontwikkeling van een gesimuleerde EEG-dataset met behulp van het SEREEGA-framework om gecontroleerde noisy-label scenario's (symmetrische ruis, 10%/30% over-segmentatie, 10%/30% onder-segmentatie) te genereren voor rigoureuze evaluatie.
Uitgebreide Evaluatie: Validatie over drie deep network architecturen (DeepSOZ, TGCN, CNN) en vier datasets: een gesimuleerde dataset, de Temple University Hospital (TUH) dataset, de CHB-MIT dataset, en de Siena dataset voor out-of-distribution testen.
Downstream Impact: Demonstratie dat het verbeteren van seizure-detectie via BUNDL ook de nauwkeurigheid van Seizure Onset Zone (SOZ) lokalisatie verbetert, een cruciale klinische taak.

Resultaten

Gesimuleerde Data: BUNDL presteerde consistent beter dan baseline methoden (Standard Cross-Entropy, Self-Adaptive Learning, en Noisy Adaptation Layer) over alle typen ruis heen. Het behaalde de beste prestaties in termen van AUROC en AUPRC, met significant verminderde False Positive Rates (FPR) in over-segmentatie scenario's en behoud van sensitiviteit in onder-segmentatie scenario's.
Real-World Data (TUH & CHB-MIT):
- Op de TUH dataset behaalde BUNDL de laagste FPR (2.3 min/uur met DeepSOZ) vergeleken met de baselines.
- Op de CHB-MIT dataset behaalde BUNDL de laagste FPR (0.8 min/uur met CNN) en verbeterde de latentie aanzienlijk ten opzichte van de baselines.
- Hoewel de AUROC-verbeteringen in sommige configuraties marginaal waren, was de reductie in false positives en latentie statistisch significant.
Generaliseerbaarheid: Bij het testen op de onbekende Siena dataset (cross-site generalisatie), behield BUNDL de laagste FPR van alle methoden, hoewel de sensitiviteit daalde, waarschijnlijk door domeinverschuiving en potentiële over-segmentatie in de doel-dataset.
Ablatie-studies: Experimenten bevestigden dat MCD-gebaseerde onzekerheidsschatting superieur was aan ensemble-methoden, test-time augmentation (TTA) en vaste loss-waarden voor het detecteren van input-afhankelijke labelruis.
Computationele Kosten: BUNDL voegt tijdens de training computationele overhead toe door meerdere forward passes, maar vereist geen extra parameters of geheugen voor het opslaan van eerdere voorspellingen (in tegenstelling tot Self-Adapt). Tijdens de inferentie werkt het met dezelfde efficiëntie als standaard modellen.

Significantie en Claims
Het artikel stelt dat BUNDL een eenvoudige, hulpbron-efficiënte en betrouwbare methode biedt voor het trainen van deep neural networks met ruisende klinische labels. De primaire significantie ligt in het vermogen om:

Naadloos te integreren met bestaande deep modellen die in de klinische praktijk worden gebruikt zonder architecturale wijzigingen.
Domeinkennis te benutten (via het Bayesiaanse framework) om onderscheid te maken tussen echte seizure-kenmerken en annotatiefouten.
Klinische betrouwbaarheid te verbeteren door het reduceren van false positives en latentie, wat cruciaal is voor geautomatiseerde seizure-monitoring systemen.
Downstream taken te verbeteren, specifiek SOZ lokalisatie, door het leveren van schonere detectie-signalen.

De auteurs concluderen dat BUNDL een robuuste oplossing biedt voor het hardnekkige probleem van labelruis in medische beeldvorming en EEG, waardoor het mogelijk wordt om betrouwbare modellen voor epilepsie-evaluatie te trainen zonder de zware computationele of parameter-overhead van concurrerende methoden. Zij erkennen beperkingen met betrekking tot de noodzaak van pre-training en de daling in sensitiviteit tijdens cross-site generalisatie, wat suggereert dat toekomstig werk gericht kan zijn op test-time adaptatie en self-supervised learning.