Technische Samenvatting: OverNaN - NaN-bewuste Oversampling voor Ongelijkgewicht Learning met Betekenisvolle Ontbrekende Waarden

1. Probleemstelling

In toegepast machine learning, met name binnen de natuurwetenschappen, techniek en biomedische wetenschappen, ontstaan ontbrekende waarden vaak door structurele beperkingen (bijvoorbeeld destructieve metingen, ethische beperkingen of conditionele uitkomsten) in plaats van stochastische ruis. Bijgevolg kan de afwezigheid van data domeinrelevante informatie dragen. Echter, standaard machine learning-pijplijnen behandelen ontbrekende waarden doorgaans als gebreken die moeten worden geëlimineerd via lijstgewijze verwijdering of imputatie voorafgaand aan de analyse.

Deze aanpak is bijzonder schadelijk in scenario's voor ongelijkgewicht learning waarbij minderheidsklassen al ondervertegenwoordigd zijn. Verwijdering verwijdert onevenredig veel steekproeven van de minderheid, wat de onbalans verergert, terwijl imputatie onzekerheid in punt-schattingen samenvoegt, wat kunstzinnige zekerheid en potentieel modelafhankelijke bias introduceert. Bovendien nemen wijdverspreide synthetische oversampling-technieken zoals SMOTE en ADASYN impliciet aan dat volledige feature-vectoren aanwezig zijn, waardoor practitioners gedwongen worden ontbrekende data te imputeren voordat synthetische steekproeven worden gegenereerd. Dit proces wist de patronen van structurele ontbrekende waarden voordat oversampling plaatsvindt, wat mogelijk de klassengrenzen en de geometrie van de feature-ruimte vervormt.

2. Methodologie: OverNaN

OverNaN is een lichtgewicht, NaN-bewust oversampling-kader dat is ontworpen om ongelijkgewicht in klassen aan te pakken zonder de structuur van ontbrekende waarden te wissen. Het breidt veelvoorkomende synthetische oversampling-methoden (SMOTE, ADASYN, ROSE) uit om direct te werken op incomplete feature-vectoren, waarbij de feature-ruimte wordt behandeld als $(\mathbb{R} \cup \{\text{NaN}\})^d$ in plaats van $\mathbb{R}^d$.

Kernontwerpprincipes

1. Structurele Integriteit: Ontbrekende waarden worden behandeld als structurele elementen, niet als gebreken. Synthetische steekproeven kunnen legitiem NaN's bevatten als de originele data dergelijke patronen ondersteunt.
2. Geen Kunstzinnige Zekerheid: Oversampling introduceert geen afgeleide waarden waar geen waarnemingen waren, waardoor het coderen van ongemotiveerde aannames wordt vermeden.
3. Expliciete Controle: Strategieën voor het omgaan met ontbrekende waarden zijn expliciet en door de gebruiker gedefinieerd, in plaats van impliciete neveneffecten van preprocessing.

Algorithmische Implementatie

OverNaN wijzigt de definitie van nabuurschap en het proces van steekproefgeneratie van bestaande methoden:

• Afstandsberekening: Afstanden tussen steekproeven $x_i$ en $x_j$ worden uitsluitend berekend op de set van gedeelde waargenomen dimensies $\Omega_{ij} = \{k : x_{ik} \neq \text{NaN} \land x_{jk} \neq \text{NaN}\}$.
• Feature-gewijze Generatie: Synthetische steekproeven $\tilde{x}$ worden feature-gewijs gegenereerd. Voor dimensies in $\Omega_{ij}$ treedt standaard interpolatie op ($\tilde{x}_k = x_{ik} + \lambda(x_{jk} - x_{ik})$). Voor dimensies buiten $\Omega_{ij}$ wordt de waarde bepaald door een van drie expliciete strategieën:
  1. Patroon-Behoud: Als een feature ontbreekt in een van de ouders, behoudt de synthetische steekproef de NaN.
  2. Selectieve Interpolatie: Interpolatie vindt alleen plaats als beide ouders waargenomen waarden hebben; anders blijft de feature NaN.
  3. Probabilistische Ontbrekende Waarden: Ontbrekende waarden worden bemonsterd volgens empirische per-klasse ontbrekende-waarden-rates.

Computatiele Kenmerken

• Compatibiliteit: OverNaN werkt op NumPy-arrays en pandas DataFrames, waarbij container-types en metadata behouden blijven.
• Complexiteit: Het delegeren van nabuurschap-zoeken aan bestaande bibliotheken. Hoewel afstandsberekeningen beperkt zijn tot waargenomen subruimtes, blijft de asymptotische complexiteit vergelijkbaar met de onderliggende methoden ($O(Nd)$ per query in het slechtste geval).
• Parallelisme: Steekproefgeneratie is triviaal paralleliseerbaar, hoewel OverNaN parallelisme conservatief toepast op het niveau van batches om race-omstandigheden met NaN-propagatie te voorkomen.
• Numerieke Stabiliteit: Het vertrouwt op het IEEE 754-standaardgedrag van NaN's, waarbij NaN's bewust worden gepropageerd in plaats van gemaskeerd, ervan uitgaande dat downstream-learners (bijvoorbeeld ensemble-methoden op basis van bomen) NaN-tolerant zijn.

3. Belangrijkste Bijdragen

• Kaderontwikkeling: De introductie van OverNaN, dat NaN-bewustheid integreert in SMOTE, ADASYN en ROSE zonder hun kern-geometrische aannames te wijzigen, maar wel het domein van definitie.
• Strategie-definitie: De formalisering van drie distincte strategieën voor het omgaan met ontbrekende waarden tijdens oversampling (Behoud, Selectief, Probabilistisch), waardoor practitioners de methode kunnen afstemmen op domeinkennis.
• Validatiesuite: Een uitgebreide testsuite die functionaliteit demonstreert in randgevallen (bijvoorbeeld enkele minderheidssteekproeven, hoge NaN-rates) en integratie met downstream-classifiers zoals XGBoost.
• Benchmarking: Empirische evaluatie op vijf OpenML-datasets met natuurlijke ontbrekende waarden en een specifieke toepassing op een Graphene Oxide Nanoflakes-dataset waar ontbrekende waarden chemisch betekenisvol zijn.

4. Experimentele Resultaten

Synthetische en Gecontroleerde Datasets

• Basisfunctionaliteit: OverNaN heeft klassen succesvol herbewogen zonder imputatie. Onder de standaard preserve_pattern-strategie nam het hersamplede NaN-percentage toe (aangezien synthetische steekproeven ontbrekende waarden erven van ouders), terwijl ROSENaN rates behield die dichter bij het origineel lagen vanwege zijn op kernels gebaseerde perturbatie.
• Classifier-integratie: In een gecontroleerde taak met XGBoost verbeterden alle drie OverNaN-varianten de recall en F1-scores van de minderheidsklasse ten opzichte van een baseline. SMOTENaN en ROSENaN bereikten perfecte recall en F1 (1,000) op de minderheidsklasse.
• Vergelijkende Prestaties: Op een synthetische dataset met 11,9% NaN's behaalde SMOTENaN de hoogste ROC AUC (0,802) en de laagste cross-fold variantie in vergelijking met pijplijnen die feature-dropping, instance-dropping of gemiddelde-imputatie gevolgd door standaard SMOTE omvatten.

Real-World Benchmarks (OpenML)

Geevalueerd op vijf datasets (labor, cylinder-bands, Titanic, soybean, car-evaluation):

• ROSENaN behaalde consistent de hoogste gemiddelde Balanced Accuracy, Macro F1 en ROC AUC over de vijf datasets.
• SMOTENaN bood bescheiden winst ten opzichte van de baseline.
• ADASYN-NaN toonde verbeterde ROC AUC maar licht lagere gethresholdde metrics gemiddeld.
• Runtime: ROSENaN bleef computatie-efficiënt (0,7s gemiddeld), terwijl ADASYN-NaN trager was (16,5s) vanwege adaptieve dichtheidsschatting.

Toepassing: Graphene Oxide Nanoflakes

In een taak om carboxylgroepen op nanoflakes te voorspellen (39,8% NaN-rate, waarbij ontbrekende waarden de structurele afwezigheid van specifieke bindingen aangeven):

• SMOTENaN presteerde beter dan zowel pijplijnen "Features Verwijderen" als "Imputatie + SMOTE", met een Balanced Accuracy van $0,997 \pm 0,005$ en F1 van $0,999 \pm 0,002$.
• Cruciaal behield SMOTENaN de structurele betekenis van ontbrekende vermeldingen (d.w.z. geen synthetische bindingslengten uitvinden voor niet-bestaande bindingen) terwijl het de volledige feature-ruimte behield, terwijl imputatie synthetische waarden introduceerde en feature-dropping informatieve beschrijvers weggooide.

Imputatie versus OverNaN

Op de OpenML anneal-dataset (64,98% NaN-rate) produceerden OverNaN-varianten statistisch niet te onderscheiden Balanced Accuracy en Macro F1-scores in vergelijking met "Imputeren-voor-oversampling"-pijplijnen. Dit suggereert dat imputatie geen strikte voorwaarde is voor concurrerende prestaties in deze settings.

5. Betekenis en Claims

Het artikel stelt dat ontbrekende waarden vaak een signaal zijn in plaats van ruis, en dat het elimineren ervan voorafgaand aan hersampling het leerproces kan vervormen. De betekenis van OverNaN ligt in:

1. Informatie Behouden: Het stelt practitioners in staat structurele patronen van ontbrekende waarden te behouden die experimentele beperkingen of fysieke realiteiten weerspiegelen, in plaats van data te "repareren" met potentieel bevooroordeelde schattingen.
2. Expliciete Onzekerheid: Het moedigt de behandeling van onzekerheid als een eerste-orde overweging aan, waardoor de introductie van kunstzinnige zekerheid in synthetische data wordt voorkomen.
3. Domein-toepasbaarheid: Het is specifiek gericht op wetenschappelijke en technische domeinen met kleine, incomplete en onbalans datasets waar ontbrekende waarden onvermijdelijk en informatief zijn.

De auteurs stellen expliciet dat OverNaN geen universele oplossing is voor ontbrekende data; het modelleert geen mechanismen van ontbrekende waarden of leidt niet-waargenomen waarden af. Het is bedoeld als een alternatief voor settings waar downstream-learners NaN's native kunnen verwerken en waar de structurele afwezigheid van data betekenisvol is. Het kader prioriteert interpreteerbaarheid, controle over aannames en reproduceerbaarheid boven agressieve optimalisatie of high-throughput capaciteiten.