📊 statistics

A proposal for PU classification under Non-SCAR using clustering and logistic model

Dit onderzoek presenteert een computatief eenvoudige clusterreinigingsalgoritme dat PU-classificatie mogelijk maakt wanneer de SCAR-voorwaarde niet geldt, en bevestigt de effectiviteit ervan op diverse datasets evenals de gematigde robuustheid van de LassoJoint-methode.

Oorspronkelijke auteurs: Konrad Furmanczyk, Kacper Paczutkowski

Gepubliceerd 2026-04-21

📖 5 min leestijd🧠 Diepgaand

CC0 1.0

Oorspronkelijke auteurs: Konrad Furmanczyk, Kacper Paczutkowski

Oorspronkelijk artikel vrijgegeven aan het publieke domein onder CC0 1.0 (http://creativecommons.org/publicdomain/zero/1.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Het Grote Raadsel: De "Onzichtbare" Zieke Patiënten

Stel je voor dat je een arts bent die probeert een ziekte te voorspellen op basis van symptomen. Je hebt een lijst met patiënten, maar er is een groot probleem:

Sommige patiënten hebben een bevestigde diagnose (ze zijn ziek en het staat in het systeem).
Andere patiënten staan op de lijst als "niet gediagnosticeerd".

Hier zit de valstrik: De groep "niet gediagnosticeerd" is een mix van twee soorten mensen:

Mensen die echt gezond zijn.
Mensen die ziek zijn, maar het niet weten (misschien omdat ze niet naar de dokter zijn gegaan, of omdat de test een fout maakte).

In de wereld van data noemen we dit PU-learning (Positive-Unlabeled learning). Je hebt alleen de "Positieve" (ziek) en de "Onbekende" (niet gediagnosticeerd). Je wilt een computer leren om de echte zieken te vinden in die onbekende groep.

Het Probleem: De "Toevallige" Verkeerde Aannames

Vroeger dachten wetenschappers dat het vinden van deze zieke mensen in de onbekende groep makkelijk was, zolang het "toeval" maar regeerde. Ze noemden dit de SCAR-aanname.

De analogie: Stel je voor dat je een visnet gooit. Als de vis (de ziekte) willekeurig in het net komt, kun je makkelijk berekenen hoeveel vissen je mist.

Maar in het echte leven is het zelden toeval.

De realiteit: Misschien gaan alleen rijke mensen naar de dokter (en worden ze geregistreerd), terwijl arme mensen ziek blijven en onzichtbaar blijven in de data. Of misschien hebben mensen met bepaalde symptomen meer kans om te worden getest.
Dit noemen de auteurs een Non-SCAR situatie. De "toevals-regel" is gebroken. De oude methoden werken hier niet meer goed, omdat ze denken dat de data willekeurig is, terwijl het juist heel gestructureerd (en misleidend) is.

De Oplossing: De "Pikende" Methode

De auteurs van dit paper (Konrad en Kacper) hebben een nieuwe manier bedacht om dit probleem op te lossen. Ze noemen hun methode "Pecking" (pikken), wat een beetje doet denken aan een kip die graantjes uit de grond pikt.

Hier is hoe hun methode werkt, stap voor stap:

Het "Pikken" (Kiezen):
Ze nemen een klein stukje van de mensen die wel als ziek bekend staan (de zekerheid) en gooien die bij de groep "niet gediagnosticeerd".
- Vergelijking: Het is alsof je een paar bekende rode ballen (ziek) in een emmer met grijze ballen (onbekend) gooit.
Het Groeperen (Clustering):
Nu kijken ze naar die emmer met grijze ballen (plus de paar rode die je erin gooide). Ze gebruiken een slimme techniek (2-means clustering) om de ballen in twee groepen te verdelen.
- De ene groep bevat ballen die lijken op de "rode" (ziek).
- De andere groep bevat ballen die eruitzien als "grijs" (gezond).
- Het trucje: Omdat je een paar echte rode ballen hebt toegevoegd, kan de computer nu zien: "Ah, deze grijze ballen lijken op de rode! Die moeten ook ziek zijn!"
Het Schoonmaken:
Ze geven nu labels aan de onbekende groep. De groep die op de zieken lijkt, krijgen ze het label "Ziek". De andere groep krijgt "Gezond". De data is nu "opgeschoond".
De Leraar (Logistische Regressie):
Nu hebben ze een schone lijst met "Ziek" en "Gezond". Ze laten een computer (een logistisch model) deze lijst bestuderen om een voorspelling te maken voor de toekomst.

Wat hebben ze ontdekt?

De auteurs hebben dit getest met 11 echte datasets (zoals medische gegevens, creditcards en spam-mails) en een nep-dataset.

De oude methode (Naive): Als je gewoon doet alsof de "niet gediagnosticeerden" allemaal gezond zijn, gaat het vaak mis.
De nieuwe methode (Pikken + Clustering): Deze werkt veel beter, zelfs als de "toevals-regel" (SCAR) niet geldt. Het is alsof je een slimme detective bent die de onzichtbare zieken vindt door naar patronen te kijken in plaats van alleen te vertrouwen op wat er in het systeem staat.
De "LassoJoint" methode: Dit is een geavanceerde wiskundige methode die eerder werd bedacht voor de "toevallige" situatie. De auteurs wilden weten: "Werkt deze nog als de toevals-regel gebroken is?"
- Het antwoord: Hij werkt nog steeds redelijk goed, maar de nieuwe "Pik-methode" is vaak sterker en simpeler in situaties waar de data niet eerlijk is.

Waarom is dit belangrijk?

Stel je voor dat je een spam-filter bouwt. Als je alleen kijkt naar e-mails die mensen als "spam" hebben gemarkeerd, mis je veel spam die mensen gewoon negeren.
Met deze nieuwe methode kun je die "vergeten" spam beter vinden, zelfs als de manier waarop mensen spam melden niet willekeurig is (bijvoorbeeld: alleen mensen met een dure computer melden spam, arme mensen niet).

Kortom:
De auteurs hebben een slimme, snelle manier bedacht om "onzichtbare" ziektes (of spam, of fraude) op te sporen in data waar de regels niet eerlijk zijn. Ze gebruiken een beetje "pikken" en groeperen om de waarheid boven water te halen, zonder dat het te duur of te ingewikkeld is voor de computer.

Titel: Een voorstel voor PU-classificatie onder Non-SCAR met behulp van clustering en een logistisch model

Auteurs: Konrad Furmańczyk en Kacper Paczutkowski (Warsaw University of Life Sciences)

1. Het Probleem

Het artikel behandelt het probleem van Positive-Unlabeled (PU) learning. In dit leerparadigma bevat de trainingsdataset alleen positieve voorbeelden ( $Y=1$ ) en ongelabelde data. De ware labels ( $Y$ ) zijn niet direct waarneembaar; men observeert slechts een surrogaatvariabele $S$ (waarbij $S=1$ betekent dat het voorbeeld gelabeld is, en dus positief is, en $S=0$ betekent dat het ongelabeld is).

De kernuitdaging die in dit onderzoek wordt aangepakt, is het schenden van de SCAR-aanneming (Selected Completely At Random).

SCAR: De kans dat een positief voorbeeld wordt gelabeld ( $P(S=1|Y=1, X)$ ) is constant en onafhankelijk van de kenmerken $X$ .
Non-SCAR (SAR): De labelkans hangt af van de kenmerken $X$ (de "propensity score" $e(x)$ is onbekend). In de praktijk is de SCAR-aanneming vaak niet geldig (bijv. bij onderrapportage in surveys), wat leidt tot vertekende schattingen bij traditionele PU-methoden.

Het doel is om een computatie-efficiënt algoritme te ontwikkelen dat robuust presteert wanneer de SCAR-aanneming niet geldt, en om de robuustheid van de bestaande LassoJoint-methode tegen dergelijke verstoringen te testen.

2. Methodologie

De auteurs stellen een nieuwe cluster-schoonmaakprocedure (genaamd "Pecking Procedure") voor en combineren deze met logistische regressie en Lasso-regularisatie.

A. De "Pecking" Cluster-schoonmaakprocedure

Dit is de kerninnovatie van het artikel om de Non-SCAR situatie te hanteren:

Selectie: Een percentage $q$ van de bekende positieve voorbeelden ( $S=1$ ) wordt "uitgepikt" en toegevoegd aan de set van ongelabelde voorbeelden ( $S=0$ ). Dit vormt een nieuwe set $C^q_0$ .
Clustering: Op deze set $C^q_0$ wordt 2-means clustering toegepast. Dit resulteert in twee clusters: $C_{0,0}$ en $C_{0,1}$ .
Labeltoewijzing:
- De cluster met het hoogste aandeel aan oorspronkelijke positieve labels ( $S=1$ ) krijgt het schone label $\hat{Y}=1$ .
- De andere cluster krijgt het label $\hat{Y}=0$ .
Iteratie: Dit proces wordt $R$ keer herhaald met willekeurige steekproeven.
Modeltraining: Op basis van de "opgeschoonde" labels ( $\hat{Y}$ ) wordt een logistisch regressiemodel getraind.

B. Variaties en Integratie

De auteurs testen drie benaderingen binnen dit raamwerk:

Naive Methode: Logistische regressie waarbij de surrogaatlabels $S$ direct worden behandeld als ware labels $Y$ (zonder correctie).
Clust Methode: Logistische regressie op de data met de door clustering gegenereerde schone labels.
LassoJoint Methode: Een combinatie van de cluster-schoonmaak en de bestaande LassoJoint-methode (die Lasso-selectie en een dubbel logistisch model combineert). Hierbij worden twee varianten getest:
- Strict: Gemiddelde coëfficiënten alleen voor variabelen die in alle herhalingen voorkomen.
- Non-strict: Gemiddelde coëfficiënten voor variabelen die in minstens één herhaling voorkomen.

C. Experimenteel Ontwerp

Data: 11 real-world datasets uit de UCI-repository en één synthetische dataset.
Scenario: Non-SCAR condities worden kunstmatig gegenereerd door de labelkans $S$ afhankelijk te maken van variabelen met hoge variantie.
Parameters: Verschillende waarden voor labelfrequentie $c$ (0.3, 0.5, 0.8) en het percentage $q$ (0.25, 0.5, 1.0) voor de "pecking"-stap.
Validatie: Monte Carlo-simulaties met kruisvalidatie.

3. Belangrijkste Resultaten

De resultaten zijn gebaseerd op metrics zoals Accuracy, F1-score en AUC (Area Under the Curve).

Prestatie van de Clust-methode: De voorgestelde cluster-methode ("clust") presteerde over het algemeen zeer goed op alle datasets, behalve op de 'banknote'-dataset. Het is aanzienlijk robuuster dan de naive methode in Non-SCAR scenario's.
LassoJoint en Robuustheid:
- De LassoJoint-methode (zowel strict als non-strict variant) toonde vergelijkbare nauwkeurigheid als de clust-methode.
- Bij een hoge labelfrequentie ( $c \geq 0.8$ ) presteerde LassoJoint uitstekend op specifieke datasets (zoals 'bank_marketing', 'credit_a', 'wine_quality').
- De methode toonde matige robuustheid tegenover de schending van de SCAR-aanneming, hoewel deze oorspronkelijk voor SCAR is ontworpen.
Invloed van Parameter $q$ : Er is geen eenduidige regel voor de beste waarde van $q$ (het percentage positieven dat wordt verplaatst). De resultaten suggereren dat een hoge $q$ (rond 1.0) vaak het beste werkt, maar dit is dataset-afhankelijk.
Rekentijd: De naive en clust-methoden zijn aanzienlijk sneller dan de Lasso-gebaseerde methoden, die kruisvalidatie vereisen.
Vergelijking SCAR vs. Non-SCAR:
- In ideale SCAR-scenario's presteerde LassoJoint het best (zoals verwacht).
- In Non-SCAR-scenario's bleef LassoJoint competitief, maar de cluster-methode bleek een zeer effectief alternatief dat minder afhankelijk is van de specifieke SCAR-aanneming.

4. Bijdragen en Significantie

Nieuw Algoritme voor Non-SCAR: Het artikel introduceert een computatie-efficiënt "cluster cleaning" algoritme dat specifiek is ontworpen om PU-classificatieproblemen op te lossen wanneer de SCAR-aanneming niet geldt. Dit is een belangrijke stap omdat veel bestaande methoden falen onder Non-SCAR condities.
Robuustheid van LassoJoint: Het onderzoek biedt empirisch bewijs dat de LassoJoint-methode, hoewel ontworpen voor SCAR, redelijk robuust is tegenover schendingen van deze aanname, wat de bruikbaarheid in real-world toepassingen vergroot.
Combinatie van Technieken: De succesvolle integratie van 2-means clustering met logistische regressie en Lasso-selectie biedt een nieuwe, effectieve route voor PU-learning die minder complexe aannames vereist dan EM-algoritmen of generatieve modellen (zoals GANs).
Reproduceerbaarheid: De auteurs hebben alle code in R gepubliceerd en gebruiken openbare datasets, wat de reproduceerbaarheid van de resultaten waarborgt.

Conclusie:
De studie concludeert dat cluster-gebaseerde methoden, gecombineerd met regularisatie (Lasso), een krachtig en flexibel instrument zijn voor PU-learning in realistische, niet-ideale scenario's (Non-SCAR). Hoewel LassoJoint in ideale omstandigheden nog steeds superieur is, biedt de voorgestelde "Pecking" cluster-methode een uitstekend alternatief dat minder gevoelig is voor de complexiteit van de labelselectie-mechanismen.