📊 statistics

Cellwise Robust Discriminant Analysis

Dit artikel stelt Cellwise Robust Discriminant Analysis (cellQDA en cellLDA) voor, een nieuwe methode die cellwise- en casewise-robuste schatters gebruikt om afwijkende cellen en ontbrekende waarden te behandelen tijdens zowel training als voorspelling, waardoor informatie behouden blijft die anders verloren zou gaan door het verwerpen van volledige afwijkende gevallen.

Oorspronkelijke auteurs: Fabio Centofanti, Can Hakan Dagidir, Mia Hubert, Peter J. Rousseeuw

Gepubliceerd 2026-05-29

📖 5 min leestijd🧠 Diepgaand

CC0 1.0

Oorspronkelijke auteurs: Fabio Centofanti, Can Hakan Dagidir, Mia Hubert, Peter J. Rousseeuw

Oorspronkelijk artikel vrijgegeven aan het publieke domein onder CC0 1.0 (http://creativecommons.org/publicdomain/zero/1.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een leraar bent die probeert leerlingen in verschillende studiegroepen in te delen op basis van hun toetsresultaten. In een perfecte wereld is de score van elke leerling een ware weerspiegeling van hun kennis. Maar in de echte wereld is data rommelig. Soms krijgt een leerling een slechte cijfer omdat ze ziek waren (een "case"-uitbijter), en soms hebben ze gewoon een domme typfout gemaakt op één specifieke vraag (een "cel"-uitbijter).

Dit artikel introduceert een nieuwe, slimmere manier om deze leerlingen in te delen, genaamd Cellwise Robust Discriminant Analysis (of cellLDA en cellQDA). Hieronder wordt uitgelegd hoe dit werkt, opgesplitst in eenvoudige concepten:

1. De Oude Methode versus het Nieuwe Probleem

De Oude Methode (Klassieke Analyse):
Stel je een leraar voor die het "gemiddelde leerling" berekent voor elke groep. Als één leerling een vreselijke score heeft op één wiskundeprobleem, zou de oude leraar misschien het hele rapport van die leerling in de prullenbak gooien. Ze behandelen de leerling als een totale mislukking vanwege één slecht getal. Dit heet het afhandelen van "case-uitbijters".

Het Nieuwe Probleem (Cel-uitbijters):
Maar wat als die leerling het materiaal eigenlijk wel beheerst, maar gewoon een typfout heeft gemaakt op één vraag? Het weggooien van hun hele rapport verspillen alle goede informatie die ze hebben. Dit is een "cel-uitbijter"—één slechte invoer in een zee van goede data. De oude methoden falen hier vaak omdat ze niet weten hoe ze alleen de typfout moeten negeren zonder de hele leerling te negeren.

2. De Oplossing: Een "Vind de Typfout"-Systeem

De auteurs stellen een tweestapsysteem voor dat werkt als een zeer zorgvuldige detective:

Stap A: De Detective Opleiden (Het Klaslokaal)
Eerst bekijkt het systeem de "schone" data van elke groep om te leren hoe een "normale" leerling eruitziet.

Het gebruikt een speciaal hulpmiddel (genaamd cellMCD) dat de data scant.
Als het een vreemd getal ziet (zoals een 100-jarig kind of een negatief gewicht), markeert het dat specifieke getal als verdacht maar houdt de rest van de data van de leerling.
Het bouwt een "kaart" van hoe normaal eruitziet voor elke groep, waarbij de typfouten worden genegeerd.

Stap B: Het Examen (De Testdata)
Nu arriveren nieuwe leerlingen voor classificatie. Hier gebeurt de magie.

Het Markeringsproces: Wanneer een nieuwe leerling arriveert met een vreemd getal (bijvoorbeeld een zeer hoog zoutgehalte in een dessert), raakt het systeem niet in paniek. Het vraagt zich af: "Is dit getal een typfout?"
De Straf: Het systeem heeft een regel: "Als je te veel getallen moet negeren om deze leerling in een groep te laten passen, horen ze daar waarschijnlijk niet."
De Beslissing: Het berekent een score voor elke groep. Als een leerling perfect past bij Groep A behalve voor één vreemd getal, zegt het systeem: "Oké, we negeren dat ene vreemde getal, en ze horen bij Groep A." Maar als de leerling op elke manier vreemd is, zegt het systeem: "Deze leerling past in geen enkele groep," en plaatst ze in een "Onbekend"-bak.

3. Het "Cellwise Contaminatie"-Model

Het artikel verzon een nieuw wiskundig verhaal (een model) om uit te leggen waarom dit werkt.

Stel je voor dat elk datapunt een mix is van Waarheid (een normale klokvormige verdeling) en Ruis (een wilde, onvoorspelbare verdeling).
Het systeem probeert uit te zoeken: "Is dit specifieke getal deel van de Waarheid, of is het deel van de Ruis?"
Als het Ruis is, wordt het gemarkeerd en genegeerd voor de uiteindelijke beslissing. Als het Waarheid is, telt het mee.

4. Waarom Dit Beter Is (De Resultaten)

De auteurs hebben dit getest op computersimulaties en echte data over Zwitserse zoetigheden (koekjes, ijs, taarten, puddingen).

De Simulatie: Toen ze "typfouten" (uitbijters) toevoegden aan de testdata, raakten de oude methoden in de war en deelden ze leerlingen in de verkeerde groepen in. De nieuwe methode (cellQDA) bleef ze correct indelen omdat het wist hoe het typfouten moest negeren.
De Echte Data: Bij het classificeren van zoetigheden was de nieuwe methode veel accurater (83% versus 57% voor de oude methode).
Ontbrekende Data: Het systeem behandelt ook ontbrekende informatie (lege cellen) op een natuurlijke manier. Als een leerling geen toets heeft gemaakt, negeert het systeem gewoon die vraag en beslist het op basis van de rest, in plaats van de hele leerling te verwerpen.

5. Visualiseren van de Resultaten

Het artikel bevat coole afbeeldingen genaamd Classmaps en Cellmaps:

Classmaps: Deze tonen waar leerlingen vallen. Als een leerling ver weg van hun groep ligt, worden ze gemarkeerd.
Cellmaps: Deze zijn als warmtekaarten. Als een specifieke zoetigheid een "verdacht" hoeveelheid zout heeft, verandert dat specifieke vierkantje rood. Dit helpt mensen om exact te zien welk ingrediënt de verwarring veroorzaakte.

Samenvatting

Kortom, dit artikel leert computers hoe ze grootmoedig kunnen zijn. In plaats van een hele persoon (of datapunt) te verwerpen vanwege één fout, identificeert de nieuwe methode de fout, negeert deze, en neemt een eerlijke beslissing op basis van de rest van de informatie. Het werkt voor zowel lineaire als kwadratische sorteermethoden en behandelt ontbrekende data zonder in paniek te raken.

Technische Samenvatting: Cellwise Robuste Discriminantanalyse

Probleemstelling

Klassieke Discriminantanalyse (DA), inclusief Lineaire (LDA) en Quadratische (QDA) varianten, is gebaseerd op het rekenkundig gemiddelde en de empirische covariantiematrix om klassenparameters te schatten. Deze schatters zijn uiterst gevoelig voor uitschieters. Waar traditionele robuuste statistiek zich heeft gericht op casewise uitschieters (hele datapunten die ver van het klassencentrum liggen), komt moderne data-analyse steeds vaker cellwise uitschieters tegen. Dit zijn onverwachte waarden binnen een datamatrix waarbij slechts enkele cellen van een geval zijn verontreinigd, terwijl de overige cellen waardevolle informatie bevatten.

Het verwijderen van een heel geval vanwege een paar afwijkende cellen leidt tot aanzienlijk informatieverlies. Bovendien falen casewise robuuste methoden vaak in aanwezigheid van cellwise contaminatie, omdat zelfs een klein percentage afwijkende cellen een meerderheid van de gevallen kan verontreinigen. Bestaande literatuur heeft cellwise robuuste schatting voor trainingsdata aangepakt (bijv. Aerts en Wilms, 2017), maar er blijft een kritieke kloof: robuuste voorspelling voor nieuwe steekproeven (out-of-sample). Huidige methoden worstelen met het classificeren van nieuwe testdata die zelf afwijkende cellen of ontbrekende waarden (NA's) kunnen bevatten, wat vaak leidt tot verkeerde classificatie.

Methodologie

De auteurs stellen cellLDA en cellQDA voor, een unificerend kader voor cellwise robuuste discriminantanalyse dat zowel het trainings- als het voorspellingstadium aanpakt.

1. Robuuste Training (In-Sample)

De methode schat de locatie ( $\mu_g$ ) en de spreidingsmatrix ( $\Sigma_g$ ) voor elke klasse $g$ met behulp van de cellMCD schatter (Raymaekers en Rousseeuw, 2024).

Doel: CellMCD minimaliseert een gepenaliseerde negatieve log-likelihood die een gedeeltelijke gekwadrateerde Mahalanobis-afstand omvat, berekend alleen op niet-geflagde cellen.
Flagging: Het schat gelijktijdig een binaire maskermatrix $W_g$ waarbij $w_{ij}=0$ een geflagde (afwijkende of NA) cel aangeeft en $w_{ij}=1$ een schone cel.
LDA-aanpassing: Voor Lineaire DA wordt een gedeelde spreidingsmatrix geschat door gecentreerde data te poolen en cellMCD toe te passen met een vast centrum.

2. Voorspelling voor Nieuwe Steekproeven (Testdata)

De kernnoviteit ligt in het voorspellingstadium, dat testgevallen met cellwise uitschieters en NA's aankan.

Cellflagger: Voor een nieuw testpunt $x$ flagt een likelihood-gebaseerde "cellflagger" cellen iteratief. Het minimaliseert een gepenaliseerde doelfunctie om te bepalen welke cellen afwijkend zijn ten opzichte van een specifieke klasse $g$ . Een cel wordt geflagd als zijn gestandaardiseerde residu een robuust tolerantie-interval overschrijdt (gebaseerd op de $\chi^2$ -kwantiel).
Contaminatiemodel: De auteurs introduceren een nieuw statistisch model dat het cellwise contaminatiekader (Alqallaf et al., 2009) uitbreidt naar meerdere klassen. Het model veronderstelt:
- Schone cellen volgen een multivariate normale verdeling $N(\mu_g, \Sigma_g)$ .
- Afwijkende cellen volgen een zwaarstaartige Laplace-verdeling.
- Afwijkende cellen treden op met een specifieke waarschijnlijkheid $p_{gj}$ .
Robuuste Discriminantfunctie: Gebaseerd op de gezamenlijke likelihood van de data en de contaminatie-indicatoren onder het bovenstaande model, wordt een nieuwe discriminantfunctie $\delta_g(x, w_g)$ $δ_{g} (x, w_{g})$ afgeleid. Deze functie omvat:
1. De standaard log-likelihood van de niet-geflagde cellen.
2. Een penalty-term voor het aantal geflagde cellen (gebaseerd op de Bernoulli-waarschijnlijkheid van contaminatie).
3. Een term die rekening houdt met de grootte van de afwijkende cellen (gebaseerd op de Laplace-dichtheid).
Omgaan met Ontbrekende Data: Het kader behandelt NA's op natuurlijke wijze door de corresponderende gewichten vooraf op 0 te zetten (behandelend als permanent uitgesloten) voordat de cellflagger wordt toegepast, zodat de discriminantfunctie alleen optelt over beschikbare schone cellen.
Casewise Uitschieterdetectie: Als een testgeval meer dan $d/2$ geflagde cellen heeft of een grote Mahalanobis-afstand op de overige cellen, wordt het toegewezen aan een nieuwe "uitschieter"-klasse (klasse 0).

Belangrijkste Bijdragen

Unificerend Kader: De benadering verenigt parameterschatting, uitschieterdetectie en classificatie onder één enkel gepenaliseerd maximum-likelihoodprincipe.
Robuuste Voorspelling: In tegenstelling tot eerdere cellwise robuuste methoden biedt deze aanpak een mechanisme voor het classificeren van testdata die afwijkende cellen kunnen bevatten, waardoor verkeerde classificatie van gevallen met kleine datafouten wordt voorkomen.
Omgaan met Ontbrekende Waarden: De methode past zich op natuurlijke wijze aan ontbrekende data aan zonder imputatie voorafgaand aan classificatie te vereisen.
Interpreteerbaarheid: De auteurs introduceren grafische hulpmiddelen (Classmaps en Cellmaps) om classificatieresultaten te visualiseren, waarbij onderscheid wordt gemaakt tussen schone gevallen, correct geclassificeerde gevallen met afwijkende cellen, en casewise uitschieters.

Resultaten

Simulaties

De methoden werden geëvalueerd op gesimuleerde data met dimensies $d=5$ en $d=20$ , onder diverse contaminatiescenario's (cellwise, casewise en gemengd) en correlatiestructuren.

Schone Testdata: Wanneer trainingsdata cellwise uitschieters bevatte, behielden cellQDA en cellLDA een hoge nauwkeurigheid en presteerden ze beter dan klassieke DA (CQDA/CLDA) en casewise robuuste methoden (RQDA/RLDA).
Gecontamineerde Testdata: Wanneer testdata cellwise uitschieters bevatte, behielden alleen cellQDA en cellLDA robuuste prestaties. Klassieke en casewise robuuste methoden leden aanzienlijke dalingen in nauwkeurigheid omdat hun discriminantregels niet waren ontworpen om afwijkende cellen in de testset aan te kunnen.
Gemengde Scenario's: De voorgestelde methoden presteerden consequent beter dan bestaande robuuste baselines (GLQDA/RLDA) wanneer zowel trainings- als testdata gecontamineerd waren.

Toepassing op Real Data

De methode werd toegepast op een dataset van 804 Zwitserse zoetigheden (Cookies, IJs, Taarten, Puddingen) met 9 voedingsvariabelen.

Nauwkeurigheid: cellQDA behaalde de hoogste cross-gevalideerde nauwkeurigheid (0,832), en overtrof hiermee CQDA (0,569), RQDA (0,805) en GLQDA (0,767).
Interpretatie: Grafische weergaven onthulden dat cellQDA producten met ongebruikelijke voedingsprofielen (bijv. specifieke "Weight Watchers"-merken) correct classificeerde, die door andere methoden verkeerd werden geclassificeerd of als globale uitschieters werden geflagd. De cellmaps identificeerden succesvol specifieke ongebruikelijke ingrediënten (bijv. onverwacht hoge/lage zoutgehalte) die de classificatie dreven.
Ontbrekende Data: De methode behield een hoge nauwkeurigheid (76%) zelfs wanneer tot 60% van de testcellen als ontbrekend was ingesteld, en presteerde hiermee aanzienlijk beter dan klassieke DA toegepast op volledige data.

Betekenis en Claims

Het artikel claimt dat de primaire betekenis van dit werk de ontwikkeling is van een robuuste voorspellingsmethode voor nieuwe steekproeven voor discriminantanalyse. Waar robuuste training gevestigd is, is het vermogen om nieuwe data met cellwise uitschieters te classificeren zonder de hele observatie te verwerpen, een nieuwe bijdrage.

De auteurs benadrukken dat hun aanpak coherent is, omdat de schattings-, flagging- en classificatiestappen allemaal voortvloeien uit hetzelfde gepenaliseerde likelihood-model. Deze unificatie zorgt voor een natuurlijke behandeling van ontbrekende waarden en biedt een statistisch onderbouwde manier om het aantal geflagde cellen te straffen. De simulatieresultaten tonen aan dat deze methoden superieure prestaties bieden in realistische scenario's waar datacontaminatie optreedt in zowel trainings- als testfasen, zonder efficiëntie op schone data op te offeren.