QC-SMOTE: Quality-Controlled SMOTE for Imbalanced Classification

Technische Samenvatting: QC-SMOTE: Kwaliteitsgecontroleerde SMOTE voor Imbalanced Classificatie

1. Probleemstelling

Klassenimbalans blijft een kritieke uitdaging in supervised learning, met name in domeinen zoals fraudedetectie, medische diagnose en anomaliedetectie, waar de minderheidsklasse zeldzame maar consequente gebeurtenissen vertegenwoordigt. Standaard classifiers die getraind zijn op ongebalanceerde data vertonen vaak een bias naar de meerderheidsklasse, waardoor ze patronen van de minderheid niet herkennen. Hoewel data-niveau resamplingmethoden, specifiek de Synthetic Minority Over-sampling Technique (SMOTE), breed worden gebruikt om dit aan te pakken door te interpoleren tussen minderheidsexemplaren, lijden ze aan een fundamentele geometrische beperking.

SMOTE gaat ervan uit dat interpolatie tussen nabijgelegen minderheidspunten inherent veilig is. In de praktijk bevinden minderheidssamples zich echter vaak nabij klassengrenzen, binnen overlappende regio's of als geïsoleerde uitschieters (outliers). Het interpoleren vanaf dergelijke punten kan synthetische samples genereren die ambigu, ruizig of dichter bij de meerderheidsdistributie liggen dan de werkelijke minderheidsstructuur. Bestaande varianten proberen dit te verzachten door zich te richten op grenzen (bijv. Borderline-SMOTE) of dichtheid (bijv. Safe-Level-SMOTE), maar zij vertrouwen vaak op één dominant principe (bijv. nadruk op grenzen of clustering) en slagen er niet in om sample-niveau betrouwbaarheid, kandidaat-niveau kwaliteitsbeoordeling en regime-adaptieve generatie in een verenigd proces te koppelen. Bijgevolg kunnen ze ofwel ruis in ijle regio's versterken of de diversiteit verminderen door zich te concentreren op enkel veilige, dichte regio's.

2. Methodologie: QC-SMOTE

De auteurs stellen QC-SMOTE voor, een kwaliteitsgecontroleerd oversampling-framework dat de focus verschuift van kwantiteit-gestuurde oversampling naar kwaliteit-bewuste dataconstructie. De methode werkt via vier geïntegreerde stadia:

A. Betrouwbaarheidsschatting van de Nabijheid (Neighbourhood Trustworthiness Estimation)
In plaats van alle minderheidssamples gelijk te behandelen, schat QC-SMOTE eerst de betrouwbaarheid van elk minderheidssample $x_i$ in met behulp van een samengestelde nabijheidstrouw-score $T(x_i)$. Deze score combineert drie metrieken:

1. Safe-level support ($S$): De proportie doelklasse-buren in de $k$-nearest neighborhood.
2. Lokale dichtheid ($D$): De inverse van de gemiddelde afstand tot minderheid-buren, wat voorkeur geeft aan compacte regio's.
3. Isolatie van de meerderheid ($R$): De gemiddelde afstand tot niet-doel (meerderheids) buren, om te garanderen dat het sample niet te dicht bij de grens van de tegenovergestelde klasse ligt.
   Deze componenten worden genormaliseerd en gewogen om een definitieve score te produceren. Samples met een hoge betrouwbaarheid worden beschouwd als betrouwbare zaden (seeds) voor generatie, terwijl geïsoleerde of door grenzen besmette samples een lage score krijgen.

B. Betrouwbaarheidsgewogen Allocatie (Reliability-Weighted Allocation)
In plaats van synthetische samples uniform over alle minderheid-zaden te genereren, wijst QC-SMOTE de generatie-inspanning toe op basis van de betrouwbaarheidsscore. Zaden met een hoge betrouwbaarheid krijgen meer generatiepogingen, terwijl zaden met een lage betrouwbaarheid (outliers) worden onderdrukt. Dit zorgt ervoor dat synthetische data geconcentreerd is in geometrisch betrouwbare regio's van de feature space.

C. IPQ-gestuurde Best-of-$K$ Kandidaatselectie
Voor elk geselecteerd zaad-buur paar accepteert QC-SMOTE niet simpelweg een willekeurige interpolatie. In plaats daarvan genereert het $K$ kandidaat-samples en evalueert deze met behulp van een Interpolation Purity and Quality (IPQ) metriek voordat ze worden geaccepteerd. De evaluatie omvat:

• Lokale zuiverheid (Local Purity): Het meten van de proportie doelklasse-buren voor de kandidaat.
• Midpoint Zuiverheid (Midpoint Purity): Het evalueren van de zuiverheid van het middelpunt tussen de zaad en zijn buur om te garanderen dat het interpolatiepad niet door ambigue regio's kruist.
• Meerderheidsvrijheid (Majority Clearance): Het meten van de minimale afstand tot een enkele meerheidssample om te garanderen dat de kandidaat voldoende gescheiden is van de tegenovergestelde klasse.
  De kandidaat met de hoogste gecombineerde kwaliteitsscore wordt geselecteerd.

D. Regime-Adaptieve Generatie en Graceful Degradation
De methode past zijn gedrag aan op basis van de lokale en globale imbalansratio ($IR$) en overlap score ($OV$).

• In schone, lage-overlap regimes, gebruikt het bredere interpolatiebereiken en minder kandidaat-controles.
• In hoge-overlap of ernstige imbalans regimes, vermindert het het interpolatiebereik, vergroot het het aantal kandidaten ($K$) en past het striktere kwaliteitscontroles toe.
• Graceful Degradation: Als de hoogst scorende kandidaat niet voldoet aan de zuiverheids- of vrijheidsdrempels (wat aangeeft dat de lokale geometrie te onbetrouwbaar is voor interpolatie), valt de methode terug op het dupliceren van het meest betrouwbare minderheidssample in de lokale omgeving. Dit voorkomt de injectie van schadelijke synthetische punten in ruizige regio's.

3. Belangrijkste Bijdragen

Het artikel schetst vier primaire bijdragen:

1. Samengestelde Betrouwbaarheidsscore: Een nieuwe metriek die de betrouwbaarheid van minderheidssamples expliciet modelleert door lokale dichtheid, safe-level kenmerken en isolatie van de meerderheidsklasse te integreren.
2. IPQ-gestuurd Best-of-$K$ Mechanisme: Een kandidaatselectiestrategie die de kwaliteit van interpolatiegebieden (inclusief middelpunt) evalueert voordat synthetische samples worden geaccepteerd, waarmee verder wordt gegaan dan eenvoudige eindpunt-interpolatie.
3. Regime-Adaptieve Strategie: Een generatieframework dat interpolatiebereiken en selectiecriteria dynamisch aanpast op basis van de ernst van de imbalans en de overlap van klassen, inclusief een fallback-mechanisme naar duplicatie wanneer synthetische generatie onveilig is.
4. Verenigd Framework: Een praktische aanpak die sample-niveau betrouwbaarheid, kandidaat-niveau kwaliteit en regime-adaptatie koppelt, waarmee de beperkingen van methoden die op enkelvoudige principes rusten, wordt aangepakt.

4. Experimentele Resultaten

De auteurs evalueerden QC-SMOTE op 30 real-world binaire ongebalanceerde datasets (variërend van milde tot ernstige imbalansratio's) met behulp van herhaalde gestratificeerde cross-validatie. De methode werd vergeleken met een brede set SMOTE-gebaseerde baselines, inclusief recente ruimte-kwaliteitsbewuste varianten zoals VS-SMOTE.

• Algemene Prestaties: QC-SMothe behaalde de sterkste gemiddelde AUC-ROC (0.9321) en Macro F1 (0.8408) van alle vergeleken methoden, met 29 overwinningen in AUC-ROC en 17 overwinningen in Macro F1 over de 30 datasets.
• Imbalans Regimes: De prestatiewinsten waren het meest uitgesproken in matige en ernstige imbalans regimes. In scenario's met hoge imbalans (IR $\ge$ 15) verbeterde QC-SMOTE de Macro F1 van 0.7018 (VS-SMOTE) naar 0.7621, wat de effectiviteit aantoont wanneer minderheidssamples schaars zijn en naïeve interpolatie onbetrouwbaar is.
• Ablatie-studies: Het verwijderen van sleutelcomponenten (betrouwbaarheidsweging, betrouwbaarheidsallocatie, IPQ-middelpuntzuiverheid of zuiverheidsfiltering) resulteerde in significante prestatiedalingen, met name in scenario's met hoge imbalans. Dit bevestigt dat de combinatie van betrouwbaarheidsschatting en kandidaat-niveau kwaliteitscontrole essentieel is.
• Efficiëntie: Hoewel QC-SMOTE trager is dan standaard SMOTE (door kandidaat-evaluatie), blijft het aanzienlijk efficiënter dan VS-SMOTE (ongeveer 39.5$\times$ trager dan SMOTE versus 208.7$\times$ voor VS-SMOTE), wat een gunstige afweging biedt tussen computationele kosten en prestaties.
• Statistische Significantie: Paargewijze Wilcoxon signed-rank tests bevestigden dat QC-SMOTE statistisch significante verbeteringen in AUC-ROC biedt ten opzichte van alle baselines. Voor Macro F1 was het significant beter dan de meeste baselines, hoewel het verschil met VS-SMOTE niet statistisch significant was op het 0.05 niveau, wat aangeeft dat het zeer competitief is met de sterkste bestaande methoden.

5. Betekenis en Claims

Het artikel claimt dat QC-SMOTE een kritieke kloof in imbalanced learning aanpakt door de paradigmaverschuiving te maken van "kwantiteit-gedreven" oversampling naar "kwaliteit-bewuste" dataconstructie. De auteurs stellen dat de prestatiewinsten in ongebalanceerde classificatie niet louter voortkomen uit het vergroten van het aantal minderheidssamples, maar uit het controleren van de betrouwbaarheid van de regio's waar die samples worden gegenereerd.

De betekenis van het werk ligt in de demonstratie dat synthetische oversampling het meest effectief is wanneer het gezamenlijk wordt gestuurd door:

1. Sample betrouwbaarheid (inschatten welke zaden betrouwbaar zijn).
2. Kandidaat kwaliteit (evalueren van het interpolatiepad en het resulterende punt).
3. Lokale regime-adaptatie (aanpassen van gedrag op basis van overlap en de ernst van de imbalans).

Door deze elementen te integreren, beoogt QC-SMOTE de synthetische oversampling betrouwbaarder te maken over heterogene datamodellen heen, met name in situaties met hoge imbalans waar een klein aantal onbetrouwbare synthetische samples de geleerde beslissingsgrens onevenredig kan verstoren. De auteurs positioneren QC-SMOTE als een robuust alternatief dat de valkuilen van ruisversterking vermijdt terwijl het classifier-agnostische integratie behoudt.