📊 statistics

Medix: Out-of-Distribution Detection from Unlabeled Wild Data via Robust Gradient Statistics

Das Paper stellt Medix vor, ein neuartiges Framework, das medianbasierte robuste Gradientenstatistiken nutzt, um Ausreißer aus ungelabelten Wilddaten zu identifizieren, was das Training eines leistungsstarken Out-of-Distribution-Klassifikators ermöglicht, der bestehende Methoden in Open-World-Szenarien übertrifft.

Ursprüngliche Autoren: Momin Abbas, Ali Falahati, Hossein Goli, Mohammad Mohammadi Amiri

Veröffentlicht 2026-07-08

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Momin Abbas, Ali Falahati, Hossein Goli, Mohammad Mohammadi Amiri

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie sind ein Sicherheitswachmann bei einem sehr exklusiven Club (das KI-Modell). Ihr Job ist es, nur Leute hereinzulassen, die zu der spezifischen Gruppe des Clubs gehören (In-Distribution-Daten), und jeden abzuweisen, der nicht dazu gehört (Out-of-Distribution oder OOD-Daten).

Das Problem ist, dass Sie in der realen Welt nicht über eine perfekte Liste der „Clubmitglieder“ verfügen, mit der Sie jeden vergleichen könnten. Schlimmer noch, Sie müssen oft eine riesige, chaotische Menge kontrollieren (unbeschriftete Wilddaten), bei der Sie nicht wissen, wer dazugehört und wer nicht. Einige sind Mitglieder, einige sind Fremde, und alles ist vermischt.

Traditionelle Methoden versuchen zu raten, wer wer ist, aber sie lassen sich oft durch das Rauschen verwirren. Dieses Paper stellt ein neues System namens Medix vor, das wie ein superintelligenter, rauschunterdrückender Filter fungiert, um genau dieses Problem zu lösen.

So funktioniert Medix, erklärt durch einfache Analogien:

1. Das Problem: Die „rauschende Menge“

Stellen Sie sich vor, Sie versuchen, die durchschnittliche Körpergröße einer bestimmten Gruppe von Menschen zu finden (die Clubmitglieder). Aber Sie stehen in einer riesigen, chaotischen Menge, in der Clubmitglieder mit Fremden, Riesen und Zwergen vermischt sind. Wenn Sie einfach den Durchschnitt (den Mittelwert) der Körpergröße aller Personen in dieser Menge nehmen würden, würden die Riesen und Zwerge das Ergebnis verfälschen und Ihren „Durchschnitt“ falsch machen.

In KI-Begriffen ausgedrückt: Wenn Sie versuchen, ein Modell unter Verwendung dieser chaotischen Mischung von Daten zu trainieren, ohne zu wissen, wer wer ist, stören die „Fremden“ (Ausreißer) das Verständnis des Modells dafür, was ein „normaler“ Input ist.

2. Die Lösung: Der „Median“-Filter

Medix verwendet einen cleveren Trick namens Median.

Der Durchschnitt (Mittelwert): Wenn Sie 9 Personen haben, die 1,50 m groß sind, und einen Riesen, der 3,00 m groß ist, steigt der Durchschnitt auf etwa 1,60 m. Der Riese zieht den Durchschnitt nach oben.
Der Median: Wenn Sie alle Personen von klein nach groß aufreihen, ist der Median die Person genau in der Mitte. Selbst mit diesem einen Riesen bleibt der Median bei 1,50 m. Der Riese wird ignoriert, weil er ein extremer Ausreißer ist.

Medix nutzt diese „Mittelweg“-Logik, um das wahre Zentrum der Daten zu finden und die störenden Fremden zu ignorieren.

3. Wie Medix funktioniert (Die drei Schritte)

Schritt 1: Den „normalen Vibe“ lernen
Zuerst schaut sich Medix eine saubere, beschriftete Gruppe von Clubmitgliedern (In-Distribution-Daten) an, um zu lernen, wie deren „Vibe“ aussieht. In technischen Begriffen berechnet es einen Referenzgradienten. Betrachten Sie dies als das Erstellen einer perfekten Momentaufnahme des durchschnittlichen Verhaltens der Clubmitglieder.

Schritt 2: Das „Quetschen“ (Filtern der Menge)
Nun betrachtet Medix die unbeschriftete, chaotische Menge. Es berechnet den „Vibe“ (Gradienten) jeder einzelnen Person in dieser Menge.

Es fragt: „Wenn ich diese spezifische Person entferne, kommt der durchschnittliche Vibe der Menge dem ‚normalen‘ Vibe näher, den wir in Schritt 1 gelernt haben?“
Wenn das Entfernen einer Person die Menge mehr wie die normalen Clubmitglieder aussehen lässt, war diese Person wahrscheinlich ein Fremder (ein Ausreißer), der die Sache durcheinandergebracht hat.
Medix macht dies iterativ, wie ein Spielchen „Stuhlkreis“, bei dem es immer wieder die Leute herauskickt, die den „Vibe“ der Gruppe von der Wahrheit wegziehen. Es nutzt den Median, um sicherzustellen, dass ein paar laute Ausreißer das System nicht täuschen.

Schritt 3: Den Sicherheitswachmann trainieren
Sobeder Medix die Fremden herausgefiltert und die „Verdächtigen“ (die Ausreißer, die es erfolgreich gefunden hat) identifiziert hat, nimmt es diese Verdächtigen und die ursprünglichen Clubmitglieder, um einen neuen, superintelligenten Sicherheitswachmann (den OOD-Detektor) zu trainieren.

Es lehrt den Wachmann: „Diese Leute sind Mitglieder. Diese Leute, die wir in der Menge gefunden haben, sind definitiv KEINE Mitglieder.“
Da die „Verdächtigen“ mit einer robusten, rauschresistenten Methode gefunden wurden, ist der neue Wachmann viel besser darin, Fremde in der Zukunft zu erkennen.

4. Warum es besser ist als andere

Das Paper behauptet, dass andere Methoden so sind, als würde man versuchen, eine Nadel im Heuhaufen zu finden, indem man den Durchschnitt des Heus betrachtet. Wenn das Heu nass oder schmutzig ist, wird der Durchschnitt vermasselt.

Medix ist wie ein Magnet, der nur das Metall aufnimmt (das wahre Signal) und den Schmutz sowie das Rauschen ignoriert.

Robustheit: Selbst wenn 50 % der Menge Fremde sind, kann Medix das wahre Zentrum der Clubmitglieder finden, weil der Median hartnäckig ist und sich nicht von extremen Werten beeindrucken lässt.
Keine perfekten Listen nötig: Im Gegensatz zu einigen anderen Methoden, die eine saubere Liste von „Bösewichten“ benötigen, um zu trainieren, kann Medix die Bösewichte innerhalb eines unbeschrifteten, chaotischen Haufens finden.

Die Ergebnisse

Die Autoren haben Medix auf verschiedenen Bilddatensätzen (wie CIFAR-10 und CIFAR-100) getestet. Sie fanden heraus, dass Medix deutlich besser darin ist, „Fremde“ zu erkennen, als 20 andere populäre Methoden.

Es reduzierte die Fehlerrate (False Positive Rate) im Vergleich zur nächstbesten Methode um eine enorme Spanne.
Es hat mathematisch bewiesen, dass dieser „Median“-Ansatz zuverlässig ist und nicht scheitert, selbst wenn die Daten sehr verrauscht sind.

Kurz gesagt: Medix ist ein intelligenter Filter, der den „Mittelweg“ (Median) nutzt, um das Rauschen in einer chaotischen Menge zu ignorieren, was es einer KI ermöglicht, genau zu lernen, was dazugehört und was nicht – selbst wenn ihr keine perfekten Regeln vorgegeben wurden.

Technisches Resümee: Medix – Out-of-Distribution-Erkennung aus unbeschrifteten Wilddaten mittels robuster Gradientenstatistik

Problemstellung

Die Bereitstellung von Modellen des maschinellen Lernens in realen Umgebungen setzt sie Out-of-Distribution (OOD)-Inputs aus – Daten aus unbekannten Kategorien, die das Modell nicht zu erkennen war. Während neuronale Netze von Natur aus anfällig für solche Inputs sind, gestaltet sich deren Erkennung während der Inferenz als schwierig, da die Modelle während des Trainings keinen OOD-Verteilungen ausgesetzt waren.

Neuere Ansätze haben versucht, „in-the-wild“ vorliegende, unbeschriftete Daten zu nutzen, um die OOD-Erkennung zu verbessern. Eine erhebliche Hürde bleibt jedoch: Wilddaten sind eine komplexe Mischung aus In-Distribution (InD) und OOD-Proben. Im Gegensatz zu Methoden, die den Zugriff auf einen sauberen, Hilfs-OOD-Datensatz voraussetzen (z. B. Outlier Exposure), fehlt es bei realen Wilddaten an eindeutigen Labels. Das Fehlen eines sauberen Satzes von OOD-Proben erschwert das Training eines optimalen OOD-Klassifikators, da das Modell zwischen InD- und OOD-Proben innerhalb einer kontaminierten Verteilung unterscheiden muss, ohne über explizite Überwachung (Supervision) zu verfügen.

Methodik: Das Medix-Framework

Die Autoren schlagen Medix vor, ein neuartiges Framework, das darauf ausgelegt ist, potenzielle Ausreißer aus einem gemischten Wild-Datensatz ( $S_{wild}$ ) unter Verwendung von elementweiser Median- (EWM) robuster Gradientenstatistik zu identifizieren. Das Framework operiert in zwei primären Phasen:

1. Ausreißer-Extraktion (Filterung)

Die Kerninnovation von Medix liegt in seiner Fähigkeit, Kandidaten-OOD-Proben aus einem gemischten Wild-Datensatz ( $S_{wild}$ ) zu filtern, ohne Vorabwissen über deren Labels zu besitzen.

Referenz-Gradientenschätzung: Zuerst wird ein InD-Klassifikator ( $f_\phi$ ) ausschließlich auf gelabelten InD-Daten ( $S_{in}$ ) trainiert. Der mittlere Gradient ( $\bar{\nabla}_{in}$ ) der Verlustfunktion in Bezug auf die Modellparameter wird über $S_{in}$ berechnet. Dies dient als Referenzgradient.
Robuste Filterung via EWM: Die Methode geht davon aus, dass das Vorhandensein von OOD-Proben in den Wilddaten zu einer Abweichung zwischen dem mittleren InD-Gradienten und der zentralen Tendenz der Gradienten der Wilddaten führt. Um diese zentrale Tendenz robust zu identifizieren, verwendet Medix den elementweisen Median der Gradienten anstelle des Mittelwerts. Der Median wird aufgrund seiner Stabilität gegenüber Rauschen und Ausreißern gewählt.
Iterative gierige Entfernung: Das Framework formuliert ein Optimierungsproblem, um eine Teilmenge der Wilddaten zu finden, die den Abstand zwischen ihrem EWM und dem Referenz-Gradienten $\bar{\nabla}_{in}$ $\overset{ˉ}{\nabla}_{in}$ minimiert. Da das exakte Lösen dieses Problems unpraktikabel ist, nutzt Medix einen gierigen, iterativen „Leave-one-out“-Ansatz (Algorithmus 1):
1. Berechne den EWM des aktuellen Wild-Sets.
2. Identifiziere Proben, deren Entfernung die größte Reduktion der L2-Distanz zwischen dem neuen EWM und $\bar{\nabla}_{in}$ bewirkt.
3. Entferne die Top- $k$ solcher Proben als Kandidaten für Ausreißer.
4. Wiederhole dies, bis die Reduktion der Distanz unter einen Schwellenwert $\epsilon$ fällt.
Ergebnis: Dieser Prozess isoliert eine Menge von Kandidaten-Ausreißern ( $\hat{S}_{out}$ ) und behält einen saubereren Satz von InD-ähnlichen Proben zurück.

2. Detektor-Training

Sobald die Kandidaten-Ausreißer extrahiert wurden, trainiert das Framework einen binären OOD-Detektor ( $g_\theta$ ).

Der Detektor wird unter Verwendung der ursprünglichen gelabelten InD-Daten ( $S_{in}$ ) als positive Beispiele und der extrahierten Kandidaten-Ausreißer ( $\hat{S}_{out}$ ) als negative Beispiele trainiert.
Das Ziel ist es, die Separabilität zwischen diesen beiden Gruppen zu maximieren, indem eine Entscheidungsgrenze erzwungen wird, bei der InD-Proben positive Ausgaben liefern und Ausreißer negative Ausgaben liefern.

Theoretische Analyse

Die Arbeit liefert formale theoretische Garantien für die Filterungsphase unter dem Huber-Kontaminationsmodell, bei dem die Wilddaten eine Mischung aus InD- und OOD-Verteilungen mit einem Kontaminationsverhältnis $\pi$ sind.

Fehlklassifikationsgrenze für Inlier: Die Autoren leiten eine obere Schranke für den Bruchteil der wahren InD-Proben ab, die fälschlicherweise als Ausreißer verworfen werden. Diese Schranke hängt vom Kontaminationsverhältnis und der Konzentration der InD-Gradienten (die als sub-Gaußisch angenommen werden) ab.
Fehlklassifikationsgrenze für Outlier: Umgekehrt begrenzen sie den Bruchteil der wahren OOD-Proben, die fälschlicherweise als InD beibehalten werden. Diese Schranke basiert auf der Trennung zwischen dem mittleren OOD-Gradienten und dem Referenz-InD-Gradienten sowie der sub-Gaußischen Natur der OOD-Gradienten.
Zentrale Erkenntnis: Die Analyse zeigt, dass die medianbasierte Filterung selbst dann eine robuste Trennung erreicht, wenn OOD-Proben einen signifikanten Teil der Mischung ausmachen (bis zu 50 %), sofern die Verteilungen ausreichend voneinander getrennt sind.

Experimentelle Ergebnisse

Medix wurde über elf InD-OOD-Datensatzpaare evaluiert, primär unter Verwendung von CIFAR-10 und CIFAR-100 als InD-Datensätze und verschiedenen Datensätzen (SVHN, PLACES365, LSUN, TEXTURES) als OOD-Quellen. Die Methode wurde gegen 20 konkurrierende Baselines getestet, darunter:

InD-only Methoden: MSP, ODIN, Mahalanobis, Energy, ReAct, DICE, KNN, ASH, CSI, KNN+.
Wild-Data Methoden: Outlier Exposure (OE), Energy-Regularisierung, WOODS, CONJ, DRL.

Wichtigste Erkenntnisse:

Überlegene Leistung: Medix übertraf alle Baselines flächendeckend. Auf CIFAR-100 reduzierte es die durchschnittliche False Positive Rate bei einer 95% True Positive Rate (FPR95) im Vergleich zur starken Baseline KNN+ um 40,98 % und gegenüber der bisherigen State-of-the-Art Wild-Data-Methode WOODS um 1,32 %.
Robustheit gegenüber Kontamination: Die Methode behielt eine hohe Leistung bei, selbst wenn die Wilddaten eine 50%ige Mischung aus OOD-Proben enthielten.
Skalierbarkeit: Experimente auf größeren Architekturen (ResNet-50) und großskaligen Datensätzen (ImageNet-1k) bestätigten, dass das L2-basierte Filtersignal auch in hochdimensionalen Gradientenräumen robust bleibt.
Ablationsstudien: Die Autoren zeigten, dass die Leistungssteigerungen spezifisch aus der Präzision der medianbasierten Filterung resultieren und nicht allein aus dem Zwei-Stufen-Pipeline-Ansatz. Das Ersetzen des Median-Filters durch einen naiven Maximum Softmax Probability (MSP) Filter führte zu einem signifikanten Leistungsabfall.

Bedeutung und Ansprüche

Das Paper behauptet, dass Medix eine kritische Lücke in der OOD-Erkennung schließt: die Fähigkeit, unbeschriftete, gemischte „Wild-Daten“ zu nutzen, ohne auf saubere Hilfs-OOD-Datensätze oder starke Verteilungsannahmen angewiesen zu sein.

Neuartiger Mechanismus: Durch die Nutzung der Robustheit des elementweisen Medians bietet Medix einen theoretisch fundierten Mechanismus, um Ausreißer aus gemischten Daten zu filtern – eine Aufgabe, die aufgrund des Fehlens distinkter OOD-Labels bisher als schwierig galt.
Theoretische Fundierung: Die Arbeit etabliert beweisbare Fehlerschranken sowohl für die Inlier- als auch für die Outlier-Fehlklassifikation und bietet damit eine formale theoretische Grundlage für das „In-the-wild“-Szenario, ein Bereich, in dem solche Grundlagen zuvor kaum vorhanden waren.
Praktische Auswirkungen: Die Methode bietet größere Flexibilität für den realen Einsatz, in dem Modelle in dynamischen Umgebungen mit unbekannten Datenverteilungen operieren müssen. Die empirischen Ergebnisse legen nahe, dass Medix die Sicherheit und Zuverlässigkeit von ML-Systemen erheblich steigern kann, indem es OOD-Inputs durch die effektive Nutzung leicht verfügbarer unbeschrifteter Daten identifiziert und handhabt.

Die Autoren kommen zu dem Schluss, dass Medix einen bedeutenden Schritt nach vorne im Open-World-Learning darstellt und zeigt, dass robuste Gradientenstatistiken effektiv unbeschriftete Wilddaten in nützliche Überwachung für die OOD-Erkennung umwandeln können.