🤖 machine learning

Focused PU learning from imbalanced data

Dieser Artikel stellt einen neuen fokussierten empirischen Risikoschätzer für das Positive-Unlabeled (PU)-Lernen vor, der durch die effektive Schulung binärer Klassifikatoren unter Verwendung sowohl positiver als auch ungelabelter Beispiele auf stark unausgewogenen Datensätzen einen Stand der Technik erreicht und dabei in kontrollierten Szenarien sowie bei der Erkennung von Finanzfehlern in der Praxis validierte Erfolge erzielt.

Ursprüngliche Autoren: Elias Zavitsanos, Georgios Paliouras

Veröffentlicht 2026-05-15

📖 4 Min. Lesezeit☕ Kaffeepausen-Lektüre

CC BY 4.0

Ursprüngliche Autoren: Elias Zavitsanos, Georgios Paliouras

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie sind ein Detektiv, der versucht, ein paar seltene, versteckte Edelsteine (die „Positiven") in einem massiven, chaotischen Haufen gewöhnlicher Steine (die „unbeschrifteten" Daten) zu finden. Das Problem ist, dass Sie nur eine winzige, unvollständige Liste von Edelsteinen haben, die jemand anderes zuvor gefunden hat. Der Rest des Haufens ist ein Rätsel: Er besteht hauptsächlich aus Steinen, enthält aber auch viele weitere Edelsteine, die noch nicht entdeckt wurden.

Dies ist die Welt des PU-Learnings (Positive-Unlabeled-Learning). Es ist ein häufiges Rätsel in der realen Welt, von der Aufdeckung von Betrug im Bankwesen bis hin zur Identifizierung von Krankheitsgenen. Normalerweise benötigen Detektive des maschinellen Lernens eine Liste sowohl der „Guten" als auch der „Bösen", um zu lernen, wie man sie unterscheidet. Doch hier haben sie nur eine Liste der „Guten" und einen riesigen Sack mit gemischten Gegenständen.

Das Problem: Die „schwer zu sehenden" Edelsteine

Die Autoren dieses Papiers haben eine spezifische, knifflige Situation bemerkt:

Die Edelsteine sind selten: Der Haufen ist überwältigend voll mit Steinen (unausgeglichene Daten).
Die Edelsteine sind getarnt: Einige der versteckten Edelsteine sehen Steinen so sehr ähnlich, dass sogar die ursprünglichen Listenersteller sie übersehen haben. Sie waren zu schwer zu entdecken.

Die meisten bestehenden Detektivmethoden gehen davon aus, dass die versteckten Edelsteine zufällig verteilt oder leicht zu finden sind. Doch in der Realität sind die am schwersten zu findenden Edelsteine oft diejenigen, die Steinen am ähnlichsten sehen. Wenn die Daten unausgeglichen sind und die „guten" Gegenstände getarnt sind, geraten Standardmethoden ins Wanken und versagen.

Die Lösung: Ein „fokussiertes" Vergrößerungsglas

Die Autoren schlagen eine neue Methode vor, die iFPU (Imbalanced Focused PU) genannt wird. Stellen Sie sich dies vor, als würden Sie dem Detektiv ein spezielles, „fokussiertes" Vergrößerungsglas geben, das verändert, wie er die Beweise betrachtet.

Anstatt jeden Fehler gleich zu behandeln, nutzt diese neue Methode ein Werkzeug namens Focal Loss. Hier ist die Analogie:

Standard-Lernen: Stellen Sie sich einen Lehrer vor, der einen Test korrigiert. Wenn ein Schüler eine einfache Frage richtig beantwortet, gibt der Lehrer ein kleines „Gut gemacht". Wenn er eine schwierige Frage falsch beantwortet, gibt der Lehrer ein kleines „Versuch es nochmal". Der Lehrer behandelt alle Fragen gleich.
Der iFPU-Ansatz: Dieser neue Lehrer ist schlauer. Er erkennt, dass das richtige Beantworten der leichten Fragen langweilig ist und nicht viel hilft. Aber das richtige (oder falsche) Beantworten der schwierigen Fragen ist entscheidend. Also ignoriert er das Leichte und konzentriert all seine Energie auf die schwierigen Fragen.

In technischen Begriffen „gewichtet" die Methode die leichten Beispiele (die offensichtlichen Steine) herunter und die schwierigen Beispiele (die getarnten Edelsteine) hoch. Dies zwingt den Computer, den kniffligen Fällen, die am wahrscheinlichsten die versteckten Edelsteine sind, besondere Aufmerksamkeit zu schenken.

Wie sie es getestet haben

Die Autoren haben nicht nur über Theorie gesprochen; sie haben ihren neuen Detektiv auf zwei Arten auf die Probe gestellt:

Der Trainingsplatz (14 Datensätze): Sie nahmen 14 verschiedene reale Datensätze (wie medizinische Aufzeichnungen, Kreditkartendaten und Satellitenbilder) und versteckten künstlich einige der „guten" Gegenstände, um das Problem zu simulieren. Sie testeten ihre Methode gegen andere erstklassige Detektivwerkzeuge.
- Das Ergebnis: Ihre „fokussierte" Methode fand konsistent mehr versteckte Edelsteine als die anderen, insbesondere wenn die Daten sehr unausgeglichen waren und die „guten" Gegenstände schwer zu entdecken waren. Sie schnitt fast so gut ab wie die besten bestehenden Methoden, handhabte aber die „getarnten" Edelsteine besser.
Der Fall aus der realen Welt (Finanzbetrug): Sie wandten ihre Methode auf ein reales Szenario an: die Aufdeckung von Finanzfehlern (Fehler oder Lügen in Unternehmensberichten).
- Die Herausforderung: Prüfer wissen oft erst Jahre später, dass ein Bericht falsch ist. Wenn also die KI trainiert wird, sind viele „falsche" Berichte noch als „unbekannt" (unbeschriftet) gekennzeichnet, und die „falschen", die bekannt sind, sind sehr selten.
- Das Ergebnis: Ihre Methode übertraf die bisherigen State-of-the-Art-Modelle. Sie war besser darin, die Berichte zu rangieren, damit menschliche Prüfer die verdächtigsten zuerst finden konnten.

Das Fazit

Dieses Papier stellt einen intelligenteren Weg vor, um Computern beizubringen, seltene, versteckte Dinge in einem Meer gemeinsamer Gegenstände zu finden, speziell wenn diese versteckten Dinge schwer von den gemeinsamen zu unterscheiden sind. Durch die Verwendung eines „fokussierten" Ansatzes, der das Leichte ignoriert und sich auf die schwierigen, getarnten Fälle konzentriert, erzielt die Methode bessere Ergebnisse sowohl in kontrollierten Tests als auch bei der Erkennung von Finanzbetrug in der realen Welt.

Kernaussage: Wenn Sie nach einer Nadel im Heuhaufen suchen und die Nadel genau wie ein Stück Heu aussieht, scannen Sie den gesamten Heuhaufen nicht einfach zufällig ab. Verwenden Sie ein Werkzeug, das speziell die Teile des Heuhaufens hervorhebt, die vielleicht eine Nadel sein könnten, und ignoriert das offensichtliche Heu. Das ist es, was dieses Papier tut.

Technischer Zusammenfassung: Fokussiertes PU-Lernen aus unausgewogenen Daten

1. Problemstellung

Der Artikel adressiert die Herausforderung des Positive-Unlabeled (PU) Lernens in Szenarien, die durch starke Klassenungleichgewichte und schwer zu erkennende positive Beispiele gekennzeichnet sind. In vielen realen Anwendungen (z. B. Betrugserkennung, Identifizierung von Krankheitsgenen, Erkennung finanzieller Fehlaussagen) besteht die Trainingsdatenmenge aus einer kleinen Menge gelabelter positiver Instanzen und einem großen Pool ungelabelter Instanzen. Der ungelabelte Pool wird von negativen Instanzen dominiert, enthält jedoch versteckte positive Instanzen.

Bestehende PU-Lernmethoden verlassen sich häufig auf vereinfachende Annahmen, die in praktischen Settings versagen:

Klassenungleichgewicht: Viele Methoden gehen von ausgeglichenen Verteilungen aus oder setzen ausreichend gelabelte Positive voraus, was selten der Fall ist, wenn die positive Klasse unterrepräsentiert ist.
Labeling-Mechanismen: Die meisten Methoden gehen von der Annahme Selected Completely At Random (SCAR) aus, bei der gelabelte Positive eine zufällige Teilmenge aller Positiven darstellen. Reale Daten folgen jedoch häufig der Annahme Selected At Random (SAR) oder der Probabilistic Gap (PG)-Annahme, bei der positive Beispiele, die Negativen ähneln, weniger wahrscheinlich gelabelt werden.
Schwere Positive: Wenn positive Beispiele signifikant mit der negativen Verteilung überlappen (das PG-Szenario), haben Standard-Risiko-Schätzer Schwierigkeiten, sie zu unterscheiden, was zu schlechter Leistung führt.

Die Autoren argumentieren, dass aktuelle State-of-the-Art-Methoden (z. B. nnPU, PUHDT) entweder unter SAR/PG-Annahmen versagen oder auf Datenmanipulation (Resampling, Zwei-Schritt-Filterung) setzen, die in stark unausgewogenen Settings möglicherweise nicht robust ist.

2. Methodik

Die vorgeschlagene Methode, iFPU (Imbalanced Focused PU) genannt, führt einen neuen nicht-negativen Risiko-Schätzer ein, der Focal Loss in das PU-Lern-Framework integriert.

2.1 Theoretische Grundlage

Der Ansatz baut auf den unverzerrten Risiko-Schätzern für PU-Lernen (uPU) und nicht-negativen Risiko-Schätzern (nnPU) auf. Beim Standard-Pu-Lernen wird das Risiko $R(g)$ unter Verwendung gelabelter Positiver ( $P$ ) und ungelabelter Daten ( $U$ ) approximiert, indem der negative Risikoterm $R_N^-(g)$ durch einen Ausdruck ersetzt wird, der $U$ und $P$ beinhaltet:
$\tilde{R}_{PU}(g) = \pi_P \tilde{R}_P^+(g) - \pi_P \tilde{R}_P^-(g) + \tilde{R}_U^-(g)$
wobei $\pi_P$ die Klassenpriori ist. Um negative empirische Risiken zu verhindern (die zu Overfitting in neuronalen Netzen führen), wendet die nnPU-Methode eine nicht-negative Einschränkung an: $\max\{0, \tilde{R}_U^-(g) - \pi_P \tilde{R}_P^-(g)\}$ .

2.2 Fokussierter Risiko-Schätzer

Die Autoren stellen fest, dass in unausgewogenen Settings das Standardrisiko von den ungelabelten Daten dominiert wird, was dazu führt, dass das Modell die wenigen schwer zu unterscheidenden positiven Beispiele vernachlässigt. Um dies zu beheben, ersetzen sie den Standard-Cross-Entropy-Verlust durch Focal Loss [50].

Focal Loss gewichtet einfache Beispiele (solche mit hoher Wahrscheinlichkeit für eine korrekte Klassifizierung) herunter und schwierige Beispiele hoch. Der Focal Loss für eine Wahrscheinlichkeit $p_t$ ist definiert als:
$FL(p_t) = -(1-p_t)^\gamma \log(p_t)$
wobei $\gamma$ den Fokussierungsparameter steuert.

Die Autoren leiten den iFPU-Risiko-Schätzer ab, indem sie die Standard-Verlustterme in der PU-Risiko-Gleichung durch die Focal-Loss-Formulierung ersetzen:
$\tilde{R}_{iFPU}(g) = \frac{1}{n_P} \sum_{i=1}^{n_P} -\pi_P (1-g(x_i))^\gamma \log(g(x_i)) + \max\left\{0, \frac{1}{n_U} \sum_{i=1}^{n_U} -(g(x_i))^\gamma \log(1-g(x_i)) - \frac{1}{n_P} \sum_{i=1}^{n_P} -\pi_P (g(x_i))^\gamma \log(1-g(x_i)) \right\}$

2.3 Trainingsverfahren

Der Trainingsprozess nutzt stochastische Optimierung (SGD). Ein wesentliches Merkmal des Algorithmus ist der Umgang mit der nicht-negativen Einschränkung:

Wenn der Term $(\tilde{R}_U^-(g) - \pi_P \tilde{R}_P^-(g))$ nicht-negativ ist, aktualisiert das Modell die Parameter unter Verwendung des Gradienten des vollen Risikos.
Wenn der Term negativ ist (was auf potenzielles Overfitting oder eine Verletzung der nicht-negativen Einschränkung hindeutet), führt das Modell einen Gradienten-Ascent-Schritt auf dem Differenzterm durch, um ihn zurück in Richtung Nicht-Negativität zu drücken, anstatt den Gradienten einfach zu ignorieren.

Die Methode ist als End-to-End-Lösung konzipiert, kompatibel mit jedem Klassifikator, der auf Kostenminimierung basiert (z. B. MLPs, XGBoost), ohne dass eine Datenvorverarbeitung oder Resampling erforderlich ist.

3. Hauptbeiträge

Neuer Risiko-Schätzer: Die Herleitung eines nicht-negativen Risiko-Schätzers, der speziell für unausgewogene PU-Daten unter Verwendung von Focal Loss entwickelt wurde und explizit schwer zu klassifizierende positive Beispiele anspricht.
Lockerung von Annahmen: Die Methode wird sowohl unter SCAR- als auch unter SAR-Annahmen evaluiert und zeigt Robustheit in Szenarien, in denen ein Labeling-Bias besteht (d. h. Positive, die Negativen ähneln, werden weniger wahrscheinlich gelabelt).
End-to-End-Integration: Im Gegensatz zu Zwei-Schritt-Methoden, die zunächst zuverlässige Negative identifizieren müssen, integriert iFPU sich direkt in die Trainings Schleife standarder Klassifikatoren (MLP und XGBoost).
Validierung in der realen Welt: Die Methode wird auf ein herausforderndes reales Problem angewendet: Erkennung finanzieller Fehlaussagen, bei dem PU-Daten aufgrund verzögerter Fehlererkennung natürlich entstehen.

4. Experimentelle Ergebnisse

Die Autoren evaluierten iFPU auf 14 öffentlich verfügbaren unausgewogenen Datensätzen und einem realen Finanzdatensatz.

4.1 Benchmark-Datensätze

Setup: 14 Datensätze mit varying Ungleichgewichtsverhältnissen. Die Experimente wurden unter SCAR- und SAR-Annahmen durchgeführt, wobei 25 %, 50 % bzw. 75 % der positiven Beispiele gelabelt waren.
Vergleichspartner: Vergleich mit uPU, nnPU, i-nnPU, NNIF (Zwei-Schritt), PUHDT, PUHRF, LBE und SAREM.
Leistung:
- Unter SCAR erzielte iFPU (unter Verwendung von XGBoost) Ergebnisse, die mit dem State-of-the-Art PUHRF (PU Hellinger Random Forest) vergleichbar waren, wobei in den meisten Fällen kein statistisch signifikanter Unterschied bestand.
- Unter der anspruchsvolleren SAR-Annahme übertraf iFPU die meisten Konkurrenten signifikant. Im schwierigsten Szenario (25 % gelabelte Positive) übertraf iFPU PUHRF um 5 Prozentpunkte im PR-AUC.
- Die Methode zeigte Robustheit gegenüber falschen Schätzungen der Klassenpriori und behielt ihre Leistung bei, selbst wenn die Priori erheblich unterschätzt wurde.

4.2 Anwendung in der realen Welt: Erkennung finanzieller Fehlaussagen

Kontext: Erkennung finanzieller Fehlaussagen in Jahresberichten (2003–2014), bei denen Fehlaussagen selten sind und oft jahrelang unentdeckt bleiben (SAR/PG-Szenario).
Setup: Vergleich mit überwachten Baselines (TabTransformer mit kalibriertem Focal Loss, Fin-SVM, RUSBoost) und PU-Methoden (PUHRF).
Ergebnisse:
- Das vorgeschlagene iFPUXGB erreichte die höchste R-Präzision von 19,95 % und übertraf das vorherige State-of-the-Art TabTransformer-Modell (17,63 %) sowie PUHRF (18,22 %).
- Die Ergebnisse zeigen, dass die Modellierung des Problems als PU-Lernen (unter Anerkennung versteckter Positiver) eine deutlich bessere Leistung liefert als die Behandlung ungelabelter Daten als negativ.

5. Bedeutung und Behauptungen

Der Artikel behauptet, dass iFPU eine State-of-the-Art-Lösung für PU-Lernen in unausgewogenen Settings darstellt, insbesondere dort, wo die Probabilistic Gap-Annahme gilt.

Robustheit: Die Fähigkeit der Methode, unter SAR-Annahmen gut zu performen, ohne komplexe Datenmanipulation oder Resampling zu erfordern, wird als großer Vorteil gegenüber bestehenden baumbasierten oder Zwei-Schritt-Methoden hervorgehoben.
Praktikabilität: Die erfolgreiche Anwendung auf die Erkennung finanzieller Fehlaussagen demonstriert den Nutzen der Methode in hochriskanten, realen Domänen, in denen gelabelte Daten knapp und verzerrt sind.
Flexibilität: Durch die reliance auf ein Risiko-Minimierungs-Framework, das mit verschiedenen Klassifikatoren (MLP, XGBoost) kompatibel ist, bietet der Ansatz eine flexible Alternative zu spezialisierten PU-Algorithmen.

Die Autoren vermerken bescheiden, dass sie zwar auf Hyperparameter-Tuning verzichtet haben, um einen fairen Vergleich zu gewährleisten, eine weitere Optimierung der XGBoost- und Focal-Loss-Parameter jedoch potenziell noch stärkere Ergebnisse liefern könnte. Sie identifizieren zudem Temperature Scaling zur Kalibrierung und Erweiterungen auf Mehrklassenszenarien als zukünftige Forschungsrichtungen.