📊 statistics

Cellwise Robust Discriminant Analysis

Dieser Artikel schlägt die zellenweise robuste Diskriminanzanalyse (cellQDA und cellLDA) vor, eine neue Methode, die zellenweise und fallweise robuste Schätzer nutzt, um sowohl während des Trainings als auch bei der Vorhersage ausreißende Zellen und fehlende Werte zu behandeln und dadurch Informationen zu bewahren, die andernfalls durch das Verwerfen ganzer Ausreißerfälle verloren gehen würden.

Ursprüngliche Autoren: Fabio Centofanti, Can Hakan Dagidir, Mia Hubert, Peter J. Rousseeuw

Veröffentlicht 2026-05-29

📖 5 Min. Lesezeit🧠 Tiefgang

CC0 1.0

Ursprüngliche Autoren: Fabio Centofanti, Can Hakan Dagidir, Mia Hubert, Peter J. Rousseeuw

Originalarbeit unter CC0 1.0 der Gemeinfreiheit gewidmet (http://creativecommons.org/publicdomain/zero/1.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie sind eine Lehrkraft, die versucht, Schüler basierend auf ihren Testergebnissen in verschiedene Lerngruppen einzuteilen. In einer perfekten Welt wäre die Punktzahl jedes Schülers ein wahrer Spiegel seines Wissens. Doch in der realen Welt sind Daten unordentlich. Manchmal erhält ein Schüler eine schlechte Note, weil er krank war (ein „Fall"-Ausreißer), und manchmal macht er einfach einen dummen Tippfehler bei einer bestimmten Frage (ein „Zellen"-Ausreißer).

Dieser Artikel stellt eine neue, intelligentere Methode zur Einteilung dieser Schüler vor, die als Zellenweise Robuste Diskriminanzanalyse (oder cellLDA und cellQDA) bezeichnet wird. Hier ist die Funktionsweise, aufgeschlüsselt in einfache Konzepte:

1. Der alte Weg vs. das neue Problem

Der alte Weg (Klassische Analyse):
Stellen Sie sich eine Lehrkraft vor, die den „durchschnittlichen Schüler" für jede Gruppe berechnet. Wenn ein Schüler bei einer Matheaufgabe eine schreckliche Note hat, könnte der alte Lehrer die gesamte Klassenarbeit dieses Schülers in den Müll werfen. Er behandelt den Schüler aufgrund einer einzigen schlechten Zahl als kompletten Versager. Dies wird als Umgang mit „Fall-Ausreißern" bezeichnet.

Das neue Problem (Zellen-Ausreißer):
Aber was, wenn dieser Schüler das Material tatsächlich beherrscht, aber bei einer Frage nur einen Tippfehler gemacht hat? Die gesamte Klassenarbeit zu verwerfen, verschwendet alle guten Informationen, die er hat. Dies ist ein „Zellen-Ausreißer" – ein einzelner schlechter Eintrag inmitten einer Flut guter Daten. Die alten Methoden scheitern hier oft, weil sie nicht wissen, wie sie nur den Tippfehler ignorieren können, ohne den gesamten Schüler zu ignorieren.

2. Die Lösung: Ein System zum „Tippfehler-Entdecken"

Die Autoren schlagen ein zweistufiges System vor, das wie ein sehr sorgfältiger Detektiv funktioniert:

Schritt A: Den Detektiv trainieren (Der Klassenraum)
Zuerst betrachtet das System die „sauberen" Daten jeder Gruppe, um zu lernen, wie ein „normaler" Schüler aussieht.

Es verwendet ein spezielles Werkzeug (genannt cellMCD), das die Daten scannt.
Wenn es eine seltsame Zahl sieht (wie ein 100 Jahre altes Kind oder ein negatives Gewicht), markiert es diese spezifische Zahl als verdächtig, behält aber den Rest der Daten des Schülers.
Es erstellt eine „Karte" davon, wie Normalität für jede Gruppe aussieht, wobei es die Tippfehler ignoriert.

Schritt B: Die Prüfung (Die Testdaten)
Jetzt treffen neue Schüler zur Klassifizierung ein. Hier passiert die Magie.

Die Markierung: Wenn ein neuer Schüler mit einer seltsamen Zahl eintrifft (z. B. ein sehr hoher Salzgehalt in einem Dessert), gerät das System nicht in Panik. Es fragt: „Ist diese Zahl ein Tippfehler?"
Die Strafe: Das System hat eine Regel: „Wenn Sie zu viele Zahlen ignorieren müssen, damit dieser Schüler in eine Gruppe passt, gehört er wahrscheinlich nicht dorthin."
Die Entscheidung: Es berechnet eine Punktzahl für jede Gruppe. Wenn ein Schüler perfekt zu Gruppe A passt, außer für eine seltsame Zahl, sagt das System: „Okay, wir ignorieren diese eine seltsame Zahl, und er gehört in Gruppe A." Aber wenn der Schüler auf jede Weise seltsam ist, sagt das System: „Dieser Schüler passt in keine Gruppe", und legt ihn in einen „Unbekannt"-Korb.

3. Das Modell der „Zellenweisen Kontamination"

Der Artikel erfindet eine neue mathematische Geschichte (ein Modell), um zu erklären, warum dies funktioniert.

Stellen Sie sich vor, jeder Datenpunkt ist eine Mischung aus Wahrheit (eine normale Glockenkurvenverteilung) und Rauschen (eine wilde, unvorhersehbare Verteilung).
Das System versucht herauszufinden: „Ist diese spezifische Zahl Teil der Wahrheit oder Teil des Rauschens?"
Wenn es Rauschen ist, wird es markiert und für die endgültige Entscheidung ignoriert. Wenn es Wahrheit ist, zählt es.

4. Warum dies besser ist (Die Ergebnisse)

Die Autoren testeten dies an Computersimulationen und echten Daten über Schweizer Süßigkeiten (Kekse, Eiscreme, Kuchen, Puddings).

Die Simulation: Als sie „Tippfehler" (Ausreißer) zu den Testdaten hinzufügten, gerieten die alten Methoden in Verwirrung und sortierten die Schüler in die falschen Gruppen. Die neue Methode (cellQDA) sortierte sie weiterhin korrekt, weil sie wusste, wie sie die Tippfehler ignorieren konnte.
Die echten Daten: Bei der Klassifizierung von Süßigkeiten war die neue Methode viel genauer (83 % gegenüber 57 % bei der alten Methode).
Fehlende Daten: Das System behandelt fehlende Informationen (leere Zellen) ebenfalls auf natürliche Weise. Wenn ein Schüler keine Prüfung abgelegt hat, ignoriert das System einfach diese Frage und entscheidet basierend auf dem Rest, anstatt den gesamten Schüler abzulehnen.

5. Visualisierung der Ergebnisse

Der Artikel enthält coole Bilder, die als Klassenkarten und Zellenkarten bezeichnet werden:

Klassenkarten: Diese zeigen, wo Schüler liegen. Wenn ein Schüler weit von seiner Gruppe entfernt ist, wird er markiert.
Zellenkarten: Diese sind wie Heatmaps. Wenn eine bestimmte Süßigkeit eine „verdächtige" Menge Salz hat, färbt sich dieses spezifische Feld rot. Dies hilft Menschen zu sehen, genau welche Zutat für die Verwirrung verantwortlich war.

Zusammenfassung

Kurz gesagt lehrt dieser Artikel Computer, wie man großmütig ist. Anstatt eine ganze Person (oder einen ganzen Datenpunkt) wegen eines einzigen Fehlers abzulehnen, identifiziert die neue Methode den Fehler, ignoriert ihn und trifft eine faire Entscheidung basierend auf dem Rest der Informationen. Sie funktioniert sowohl für lineare als auch für quadratische Sortiermethoden und bewältigt fehlende Daten, ohne ins Schwitzen zu geraten.

Technische Zusammenfassung: Zellweise robuste Diskriminanzanalyse

Problemstellung

Die klassische Diskriminanzanalyse (DA), einschließlich der Varianten Lineare (LDA) und Quadratische (QDA) Diskriminanzanalyse, stützt sich auf das arithmetische Mittel und die empirische Kovarianzmatrix zur Schätzung der Klassenparameter. Diese Schätzer sind gegenüber Ausreißern hochgradig empfindlich. Während sich die traditionelle robuste Statistik auf fallweise Ausreißer (ganze Datenpunkte, die weit vom Klassenmittelpunkt entfernt liegen) konzentriert hat, trifft die moderne Datenanalyse zunehmend auf zellweise Ausreißer. Dabei handelt es sich um unerwartete Einträge innerhalb einer Datenmatrix, bei denen nur wenige Zellen eines Falls verfälscht sind, während die verbleibenden Zellen wertvolle Informationen enthalten.

Das Entfernen eines gesamten Falls aufgrund weniger ausreißerbehafteter Zellen führt zu einem erheblichen Informationsverlust. Darüber hinaus versagen fallweise robuste Methoden oft bei zellweiser Kontamination, da selbst ein kleiner Prozentsatz ausreißerbehafteter Zellen eine Mehrheit der Fälle verunreinigen kann. Die bestehende Literatur hat sich zwar mit zellweiser robuster Schätzung für Trainingsdaten befasst (z. B. Aerts und Wilms, 2017), doch eine kritische Lücke bleibt bestehen: robuste Vorhersage für neue Stichproben (Out-of-Sample). Aktuelle Methoden haben Schwierigkeiten, neue Testdaten zu klassifizieren, die selbst zellweise Ausreißer oder fehlende Werte (NA) enthalten können, was häufig zu Fehlklassifikationen führt.

Methodik

Die Autoren schlagen cellLDA und cellQDA vor, ein einheitliches Rahmenwerk für die zellweise robuste Diskriminanzanalyse, das sowohl die Trainings- als auch die Vorhersagephase adressiert.

1. Robustes Training (In-Sample)

Die Methode schätzt die Lage ( $\mu_g$ ) und die Streumatrix ( $\Sigma_g$ ) für jede Klasse $g$ unter Verwendung des cellMCD-Schätzers (Raymaekers und Rousseeuw, 2024).

Ziel: cellMCD minimiert eine bestrafte negative Log-Likelihood, die eine partielle quadrierte Mahalanobis-Distanz enthält, die nur auf nicht markierten Zellen berechnet wird.
Markierung: Gleichzeitig wird eine binäre Maskenmatrix $W_g$ geschätzt, wobei $w_{ij}=0$ eine markierte (ausreißerbehaftete oder NA) Zelle und $w_{ij}=1$ eine saubere Zelle anzeigt.
LDA-Anpassung: Für die Lineare DA wird eine gemeinsame Streumatrix geschätzt, indem zentrierte Daten gepoolt und cellMCD mit einem festen Zentrum angewendet werden.

2. Vorhersage für neue Stichproben (Testdaten)

Die Kerninnovation liegt in der Vorhersagephase, die Testfälle mit zellweisen Ausreißern und NA-Werten handhabt.

Cellflagger: Für einen neuen Testpunkt $x$ markiert ein likelihood-basierter „Cellflagger" iterativ Zellen. Er minimiert eine bestrafte Zielfunktion, um festzustellen, welche Zellen relativ zu einer spezifischen Klasse $g$ ausreißerbehaftet sind. Eine Zelle wird markiert, wenn ihr standardisierter Residualwert ein robustes Toleranzintervall (basierend auf dem $\chi^2$ -Quantil) überschreitet.
Kontaminationsmodell: Die Autoren führen ein neues statistisches Modell ein, das das Rahmenwerk der zellweisen Kontamination (Alqallaf et al., 2009) auf mehrere Klassen erweitert. Das Modell geht davon aus:
- Saubere Zellen folgen einer multivariaten Normalverteilung $N(\mu_g, \Sigma_g)$ .
- Ausreißerzellen folgen einer schwerfälligen Laplace-Verteilung.
- Ausreißerzellen treten mit einer spezifischen Wahrscheinlichkeit $p_{gj}$ auf.
Robuste Diskriminanzfunktion: Basierend auf der gemeinsamen Likelihood der Daten und der Kontaminationsindikatoren unter dem oben genannten Modell wird eine neue Diskriminanzfunktion $\delta_g(x, w_g)$ $δ_{g} (x, w_{g})$ abgeleitet. Diese Funktion umfasst:
1. Die Standard-Log-Likelihood der nicht markierten Zellen.
2. Einen Strafterm für die Anzahl der markierten Zellen (basierend auf der Bernoulli-Wahrscheinlichkeit der Kontamination).
3. Einen Term, der die Größe der ausreißerbehafteten Zellen berücksichtigt (basierend auf der Laplace-Dichte).
Handhabung fehlender Daten: Das Rahmenwerk behandelt NA-Werte auf natürliche Weise, indem die entsprechenden Gewichte vor der Anwendung des Cellflaggers auf 0 gesetzt werden (Behandlung als dauerhaft ausgeschlossen), wodurch sichergestellt wird, dass die Diskriminanzfunktion nur über verfügbare saubere Zellen summiert.
Fallweise Ausreißererkennung: Wenn ein Testfall mehr als $d/2$ markierte Zellen aufweist oder eine große Mahalanobis-Distanz auf den verbleibenden Zellen hat, wird er einer neuen „Ausreißer"-Klasse (Klasse 0) zugewiesen.

Hauptbeiträge

Einheitliches Rahmenwerk: Der Ansatz vereint Parameterschätzung, Ausreißererkennung und Klassifikation unter einem einzigen Prinzip der bestraften Maximum-Likelihood-Schätzung.
Robuste Vorhersage: Im Gegensatz zu früheren zellweise robusten Methoden bietet dieser Ansatz einen Mechanismus zur Klassifikation von Testdaten, die zellweise Ausreißer enthalten können, und verhindert so die Fehlklassifikation von Fällen mit geringfügigen Datenfehlern.
Handhabung fehlender Werte: Die Methode passt sich auf natürliche Weise fehlenden Daten an, ohne dass eine Imputation vor der Klassifikation erforderlich ist.
Interpretierbarkeit: Die Autoren stellen grafische Werkzeuge (Classmaps und Cellmaps) vor, um Klassifikationsergebnisse zu visualisieren und zwischen sauberen Fällen, korrekt klassifizierten Fällen mit ausreißerbehafteten Zellen und fallweisen Ausreißern zu unterscheiden.

Ergebnisse

Simulationen

Die Methoden wurden an simulierten Daten mit den Dimensionen $d=5$ und $d=20$ unter verschiedenen Kontaminationsszenarien (zellweise, fallweise und gemischt) und Korrelationsstrukturen evaluiert.

Saubere Testdaten: Wenn die Trainingsdaten zellweise Ausreißer enthielten, behielten cellQDA und cellLDA eine hohe Genauigkeit bei und übertrafen dabei die klassische DA (CQDA/CLDA) sowie fallweise robuste Methoden (RQDA/RLDA).
Kontaminierte Testdaten: Wenn die Testdaten zellweise Ausreißer enthielten, behielten nur cellQDA und cellLDA eine robuste Leistung bei. Klassische und fallweise robuste Methoden erlitten erhebliche Genauigkeitsverluste, da ihre Diskriminanzregeln nicht darauf ausgelegt waren, ausreißerbehaftete Zellen im Testset zu handhaben.
Gemischte Szenarien: Die vorgeschlagenen Methoden schnitten bei kontaminierten Trainings- und Testdaten konsistent besser ab als bestehende robuste Baselines (GLQDA/RLDA).

Anwendung auf reale Daten

Die Methode wurde auf einen Datensatz von 804 Schweizer Süßwaren (Kekse, Eiscreme, Kuchen, Puddings) mit 9 Ernährungsvariablen angewendet.

Genauigkeit: cellQDA erreichte die höchste Kreuzvalidierungs-Genauigkeit (0,832) und übertraf dabei CQDA (0,569), RQDA (0,805) und GLQDA (0,767).
Interpretation: Grafische Darstellungen zeigten, dass cellQDA Produkte mit ungewöhnlichen Ernährungsprofilen (z. B. bestimmte „Weight Watchers"-Marken) korrekt klassifizierte, die von anderen Methoden fehlerhaft klassifiziert oder als globale Ausreißer markiert wurden. Die Cellmaps identifizierten erfolgreich spezifische ungewöhnliche Zutaten (z. B. unerwartet hoher/niedriger Salzgehalt), die die Klassifikation vorantrieben.
Fehlende Daten: Die Methode behielt eine hohe Genauigkeit (76 %) bei, selbst wenn bis zu 60 % der Testzellen als fehlend gesetzt wurden, und übertraf dabei die klassische DA, die auf vollständigen Daten angewendet wurde, erheblich.

Bedeutung und Behauptungen

Die Autoren behaupten, dass die primäre Bedeutung dieser Arbeit die Entwicklung einer robusten Vorhersagemethode für neue Stichproben für die Diskriminanzanalyse ist. Während robustes Training etabliert ist, stellt die Fähigkeit, neue Daten mit zellweisen Ausreißern zu klassifizieren, ohne die gesamte Beobachtung zu verwerfen, einen neuartigen Beitrag dar.

Die Autoren betonen, dass ihr Ansatz kohärent ist, da die Schritte Schätzung, Markierung und Klassifikation alle aus demselben bestraften Likelihood-Modell abgeleitet werden. Diese Vereinheitlichung ermöglicht eine natürliche Handhabung fehlender Werte und bietet einen statistisch fundierten Weg, die Anzahl der markierten Zellen zu bestrafen. Die Simulationsergebnisse zeigen, dass diese Methoden in realistischen Szenarien, in denen Datenkontamination sowohl in der Trainings- als auch in der Testphase auftritt, eine überlegene Leistung bieten, ohne die Effizienz bei sauberen Daten zu beeinträchtigen.