📊 statistics

A proposal for PU classification under Non-SCAR using clustering and logistic model

Diese Studie stellt einen effizienten Algorithmus zur PU-Klassifikation unter Verletzung der SCAR-Bedingung vor, der durch eine Kombination aus 2-Means-Clustering zur Label-Bereinigung und anschließender logistischer Regression die Klassifikationsleistung verbessert und zudem die moderate Robustheit der LassoJoint-Methode in diesem Kontext bestätigt.

Ursprüngliche Autoren: Konrad Furmanczyk, Kacper Paczutkowski

Veröffentlicht 2026-04-21

📖 4 Min. Lesezeit☕ Kaffeepausen-Lektüre

CC0 1.0

Ursprüngliche Autoren: Konrad Furmanczyk, Kacper Paczutkowski

Originalarbeit unter CC0 1.0 der Gemeinfreiheit gewidmet (http://creativecommons.org/publicdomain/zero/1.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie sind ein Detektiv, der versucht, eine geheime Verschwörung aufzudecken. Aber es gibt ein großes Problem: Sie haben nur eine unvollständige Liste von Verdächtigen.

In der Welt der künstlichen Intelligenz nennt man dieses Problem PU-Lernen (Positive-Unlabeled Learning). Hier ist die Situation:

Sie haben eine Liste von Menschen, von denen Sie wissen, dass sie schuldig sind (die "Positiven").
Sie haben eine riesige Liste von Menschen, von denen Sie nicht wissen, ob sie schuldig oder unschuldig sind (die "Unmarkierten").
Das Problem: In der Liste der "Unmarkierten" stecken wahrscheinlich auch viele schuldige Leute, die einfach übersehen wurden.

Normalerweise gehen Computer davon aus, dass die Übersehenen zufällig verteilt sind (wie wenn man Kugeln blind aus einem Topf zieht). Das nennt man SCAR. Aber in der echten Welt ist das selten der Fall. Oft werden bestimmte Typen von Menschen öfter "übersehen", weil sie sich gut verstecken oder weil die Polizei nur in bestimmten Vierteln sucht. Das nennt man Non-SCAR.

Hier kommt die neue Studie von Furmańczyk und Paczutkowski ins Spiel. Sie haben einen cleveren neuen Weg gefunden, um mit diesem Chaos umzugehen, ohne die Computer zu überlasten.

Die Idee: "Das Picken" (Pecking)

Stellen Sie sich vor, Sie haben einen großen Haufen Sand, in dem sich Goldkörnchen (die wahren Schuldigen) und Steine (die Unschuldigen) befinden. Der Computer weiß nur, wo einige Goldkörnchen liegen, aber der Rest ist im Sand vermischt.

Die Autoren schlagen einen Prozess vor, den sie "Pecking" (Picken) nennen. Es funktioniert wie folgt:

Der Mischauftrag: Der Computer nimmt einen kleinen Teil der bekannten Goldkörnchen und wirft sie in den Sandhaufen der Unmarkierten.
Der Kugelschreiber-Effekt (Clustering): Jetzt lässt der Computer zwei Gruppen entstehen. Er sagt: "Okay, schaut mal, diese Gruppe von Sandkörnern sieht sich sehr ähnlich und enthält viele der neuen Goldkörnchen. Das ist wahrscheinlich die 'Schuldige-Gruppe'. Die andere Gruppe sieht anders aus und hat kaum Gold. Das ist die 'Unschuldige-Gruppe'."
- Analogie: Stellen Sie sich vor, Sie mischen rote und blaue Murmeln in einer Kiste. Wenn Sie die Kiste schütteln, bilden sich oft kleine Häufchen, in denen die Farben sich trennen. Der Algorithmus sucht nach diesen natürlichen Häufchen.
Das Reinigen: Alles, was in der "Schuldigen-Gruppe" gelandet ist, bekommt nun ein Etikett: "Vermutlich schuldig". Alles in der anderen Gruppe bekommt das Etikett: "Vermutlich unschuldig".
Der Lehrer: Jetzt hat der Computer eine "gereinigte" Liste. Er nutzt diese Liste, um einen Logik-Lehrer (eine logistische Regression) zu trainieren, der lernt, wie man echte Schuldige von Unschuldigen unterscheidet.

Warum ist das so cool?

Frühere Methoden haben versucht, komplizierte mathematische Formeln zu lösen, die davon ausgingen, dass die Übersehenen zufällig verteilt sind. Wenn das aber nicht stimmt (was in der echten Welt fast immer der Fall ist), machen diese Methoden Fehler.

Die neue Methode ist wie ein schlauer Gärtner:

Statt zu versuchen, jede einzelne Pflanze genau zu vermessen (was bei Non-SCAR schwierig ist), schaut er sich an, welche Pflanzen in Gruppen wachsen.
Er ist robust: Selbst wenn die Bedingungen nicht perfekt sind (die "SCAR"-Bedingung verletzt ist), funktioniert er immer noch gut.
Er ist schnell: Im Vergleich zu anderen Methoden, die stundenlang rechnen müssen, ist dieser Ansatz viel schneller und effizienter.

Was haben sie herausgefunden?

Die Autoren haben ihren Algorithmus an 11 echten Datensätzen (z. B. medizinische Daten, Kreditdaten, Spam-E-Mails) getestet.

Das Ergebnis: Der neue "Picken"-Algorithmus war oft besser als die alten Methoden, besonders wenn die Daten "schmutzig" waren (also wenn die SCAR-Bedingung nicht galt).
Die Überraschung: Eine andere Methode, die sie getestet haben (LassoJoint), war zwar sehr gut, wenn alles perfekt lief, aber sie wurde etwas wackelig, wenn die Daten unordentlich waren. Der neue Cluster-Ansatz war hier stabiler.

Fazit für den Alltag

Stellen Sie sich vor, Sie versuchen, gute Mitarbeiter aus einer riesigen Bewerberliste zu finden, aber Sie kennen nur die Namen derer, die bereits eingestellt wurden. Viele gute Kandidaten sind in der Liste der "Unentschiedenen" versteckt.

Diese neue Methode sagt im Grunde: "Hör auf, jede einzelne Bewerbung perfekt zu analysieren. Schau dir stattdessen an, welche Bewerber sich in ihrer Art und Weise ähneln. Wenn eine Gruppe von 'Unentschiedenen' denen ähnelt, die wir schon als gut kennen, dann sind sie wahrscheinlich auch gut!"

Es ist eine einfache, clevere und schnelle Art, aus einem chaotischen Haufen von Informationen die richtigen Muster herauszufiltern, ohne sich in komplizierter Mathematik zu verlieren.

1. Problemstellung

Das Paper adressiert das Problem des Positive-Unlabeled (PU) Lernens. In diesem Szenario steht nur eine Menge von positiven Beispielen ( $S=1$ ) und eine Menge von ungelabelten Daten ( $S=0$ ) zur Verfügung, wobei die wahren Klassenlabels $Y \in \{0, 1\}$ nicht direkt beobachtet werden.

Herausforderung: Die meisten bestehenden PU-Methoden basieren auf der Annahme SCAR (Selected Completely At Random). Diese besagt, dass die Wahrscheinlichkeit, dass ein positives Beispiel als solches gelabelt wird ( $P(S=1|Y=1, X)$ ), unabhängig von den Merkmalen $X$ ist.
Realitätsbezug: In vielen praktischen Anwendungen (z. B. medizinische Diagnosen, Umfragen mit Untererfassung) ist die SCAR-Annahme verletzt. Stattdessen liegt oft ein SAR (Selected at Random) oder ein Non-SCAR-Szenario vor, bei dem die Label-Wahrscheinlichkeit von den Merkmalen abhängt ( $P(S=1|Y=1, X) = e(x)$ ).
Ziel: Entwicklung eines recheneffizienten Algorithmus, der PU-Klassifikation auch dann robust bewältigt, wenn die SCAR-Bedingung nicht erfüllt ist, sowie die Untersuchung der Robustheit bestehender Methoden (insbesondere LassoJoint) unter diesen gestörten Bedingungen.

2. Methodik

Die Autoren schlagen einen hybriden Ansatz vor, der Clustering und logistische Regression kombiniert, und vergleichen diesen mit etablierten Methoden.

A. Der vorgeschlagene „Pecking"-Algorithmus (Cluster Cleaning)

Dies ist der Kernbeitrag des Papers. Der Algorithmus zielt darauf ab, die ungelabelten Daten ( $S=0$ ) zu bereinigen, indem er annimmt, dass einige davon tatsächlich positiv ( $Y=1$ ) sind.

Datenvorbereitung: Ein Anteil $q\%$ der bekannten positiven Beispiele ( $S=1$ ) wird zufällig ausgewählt und zur Gruppe der ungelabelten Daten ( $S=0$ ) hinzugefügt, um eine neue Menge $C^q_0$ zu bilden.
Clustering: Auf $C^q_0$ wird der 2-Means-Clustering-Algorithmus angewendet, um zwei Cluster ( $C_{0,0}$ und $C_{0,1}$ ) zu bilden.
Label-Zuweisung (Cleaning):
- Der Cluster mit dem höheren Anteil an ursprünglichen $S=1$ -Beispielen wird als „positiver Cluster" identifiziert ( $C_{0,1}$ ).
- Alle Proben in $\{S=1\} \cup C_{0,1}$ erhalten das bereinigte Label $\hat{Y}=1$ .
- Alle Proben in $C_{0,0}$ erhalten das Label $\hat{Y}=0$ .
Iterative Modellierung: Dieser Prozess wird $R$ -mal wiederholt. Für jede Iteration wird eine logistische Regression (oder eine LassoJoint-Variante) auf den bereinigten Daten trainiert.
Aggregation: Die finalen Koeffizienten des Modells werden durch Mittelwertbildung über alle $R$ $R$ Wiederholungen gebildet. Es werden zwei Varianten für LassoJoint betrachtet:
- Strict: Mittelung nur für Features, die in allen Wiederholungen ausgewählt wurden.
- Non-strict: Mittelung für Features, die in mindestens einer Wiederholung ausgewählt wurden.

B. Vergleichsmethoden

Naive Methode: Behandlung der Proxy-Labels $S$ als wahre Labels $Y$ in einer einfachen logistischen Regression.
LassoJoint: Eine bestehende Methode, die auf der gemeinsamen Maximum-Likelihood-Schätzung und Lasso-Selektion basiert (ursprünglich für SCAR entwickelt).

3. Experimentelles Setup

Datensätze: Evaluation auf 11 realen Datensätzen aus dem UCI Machine Learning Repository (z. B. Adult, Diabetes, Spambase) und einem synthetischen Datensatz.
Szenario: Die Daten wurden so generiert, dass die Non-SCAR-Bedingung erfüllt ist (die Label-Wahrscheinlichkeit hängt von den Merkmalen ab).
Parameter: Variation des Label-Frequenz-Parameters $c$ (Anteil der gelabelten positiven Daten: 0.3, 0.5, 0.8) und des Clustering-Anteils $q$ (0.25, 0.5, 1.0).
Metriken: Accuracy, F1-Score und AUC (Area Under the Curve).

4. Wichtige Ergebnisse

Leistung des Cluster-Cleaning-Verfahrens: Der vorgeschlagene „Pecking"-Algorithmus (bezeichnet als clust) zeigte auf fast allen Datensätzen eine hohe Genauigkeit und war der Naiven Methode deutlich überlegen. Er war besonders robust, wenn die SCAR-Annahme verletzt war.
LassoJoint unter Non-SCAR: Die LassoJoint-Methode zeigte eine moderate Robustheit. Sie performte gut, insbesondere bei höheren Werten von $c$ (mehr gelabelte Daten), war aber in einigen Fällen (z. B. bank-marketing) schwächer als der reine Cluster-Ansatz.
Einfluss von $q$ : Es gibt keine universell beste Wahl für den Parameter $q$ . Die Ergebnisse deuten darauf hin, dass ein großer Wert ( $q \approx 1$ ) oft vorteilhaft ist, aber dies stark von den spezifischen Datenmerkmalen abhängt.
Rechenzeit: Der Cluster-Ansatz und die naive Methode waren deutlich schneller als die Lasso-basierten Methoden, da diese Kreuzvalidierung erfordern.
SCAR vs. Non-SCAR: Wie erwartet performte LassoJoint unter der SCAR-Bedingung optimal. Unter Non-SCAR blieb der Cluster-Ansatz jedoch konkurrenzfähig und oft besser als die reinen Lasso-Varianten.

5. Bedeutung und Beiträge

Praktische Anwendbarkeit: Das Paper bietet eine Lösung für ein häufiges, aber oft ignoriertes Problem: PU-Lernen in realen Szenarien, in denen die SCAR-Annahme nicht gilt.
Recheneffizienz: Durch den Einsatz von 2-Means-Clustering statt komplexerer hierarchischer Verfahren oder GANs (Generative Adversarial Networks) bleibt der Algorithmus computergünstig und schnell.
Robustheitsanalyse: Die Studie liefert wichtige Erkenntnisse darüber, wie empfindlich etablierte Methoden wie LassoJoint auf Verletzungen der SCAR-Annahme reagieren, und zeigt, dass einfache Clustering-Techniken eine starke Alternative darstellen können.
Erweiterbarkeit: Die Autoren weisen darauf hin, dass der erste Schritt (2-Means) nicht nur für Single-Sample-PUs, sondern auch für Case-Control-PUs anwendbar ist.

Fazit: Der vorgeschlagene Cluster-Cleaning-Algorithmus ist eine effektive, recheneffiziente Methode zur PU-Klassifikation unter gestörten SCAR-Bedingungen und übertrifft in vielen Szenarien komplexe Lasso-basierte Ansätze, während er gleichzeitig eine hohe Robustheit gegenüber der Verletzung der Annahmen aufweist.