📊 statistics

SSLfmm: An R Package for Semi-Supervised Learning with Mixed Missingness

Het R-pakket SSLfmm introduceert een likelihood-gebaseerd Gaussisch finite-mixture-raamwerk voor semi-supervised learning dat klassenverdelingen en label-missingness-mechanismen (inclusief MCAR, MAR en gemengde scenario's) gezamenlijk modelleert om de classificatieprestaties te verbeteren wanneer de beschikbaarheid van labels zelf informatieve signalen bevat.

Oorspronkelijke auteurs: Geoffrey J. McLachlan, Jinran Wu

Gepubliceerd 2026-08-20

📖 6 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Geoffrey J. McLachlan, Jinran Wu

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

In de wereld van data science worden onderzoekers vaak geconfronteerd met een frustrerende kloof tussen wat ze weten en wat ze kunnen meten. Stel je een medische studie voor waarbij artsen de symptomen van elke patiënt hebben genoteerd, maar slechts bij een deel van hen de uiteindelijke diagnose hebben kunnen bevestigen. De rest blijft een mysterie, niet omdat de gegevens verloren zijn gegaan, maar omdat het bevestigingsproces voor bepaalde gevallen te duur, te traag of simpelweg onmogelijk was. Dit is het domein van semi-gestuurd leren (semi-supervised learning), een vakgebied dat zich toelegt op het aanleren van patronen aan computers met behulp van een mix van bekende en onbekende antwoorden. Traditioneel hebben statistici deze ontbrekende antwoorden behandeld als willekeurige ongelukjes, uitgaande van de veronderstelling dat de reden waarom een label ontbreekt niets te maken heeft met de data zelf. Echter, in veel realistische situaties is de reden waarom een label ontbreekt juist een aanwijzing. Een patiënt kan moeilijker nauwkeurig te diagnosticeren zijn omdat de symptomen verwarrend zijn, of een respondent bij een enquête kan een vraag overslaan omdat het antwoord ongemakkelijk is. Als de computer deze connectie negeert, mist hij een essentieel puzzelstukje.

Een team van onderzoekers aan de Universiteit van Queensland heeft een nieuwe tool ontwikkeld om computers te helpen dit specifieke probleem op te lossen. Ze creëerden een softwarepakket genaamd SSLfmm, waarmee machines kunnen leren van data waarbij de labels op twee verschillende manieren ontbreken: ofwel volledig willekeurig, ofwel omdat de data zelf het verkrijgen van het label moeilijk maakte. De software is gebouwd op een framework dat het ontbrekende label niet alleen behandelt als een leegte, maar als een uitkomst van een specifiek proces. Door dit proces naast de data te modelleren, kan het systeem onderscheid maken tussen een ontbrekend label dat door toeval is ontstaan en een label dat ontbrak omdat het datapunt ambigu of moeilijk te classificeren was. Deze aanpak laat de computer toe om de feitelijkheid dat een label ontbreekt te gebruiken om zijn begrip van de groepen die hij probeert te identificeren te verbeteren.

De onderzoekers testten hun nieuwe software door een gesimuleerde wereld van data te creëren waarin ze precies wisten hoe de labels ontbraken. Ze genereerden duizend datapunten die twee overlappende groepen vertegenwoordigden, en verwijderden vervolgens doelbewust de labels voor ongeveer tweeëndertig procent van hen. Ze verdeelden deze ontbrekende labels in twee categorieën: sommige werden willekeurig verwijderd, terwijl andere specifiek werden verwijderd omdat de datapunten moeilijk van elkaar te onderscheiden waren. Vervolgens vroegen ze hun software om de groepen te achterhalen met behulp van twee verschillende strategieën. In de eerste strategie werd de software precies verteld welke ontbrekende labels willekeurig waren en welke moeilijk waren. In de tweede strategie werd de software alleen verteld dat een label ontbrak, zonder de reden te kennen. De resultaten toonden aan dat de software, zelfs zonder de specifieke reden voor de ontbrekende labels te kennen, nog steeds effectief kon leren. Wanneer de software werd getest op de datapunten waarvan de labels verborgen waren, bereikte de versie die de redenen kende een nauwkeurigheid van ongeveer eenentachtig procent, terwijl de versie die de redenen moest raden een bijna identieke nauwkeurigheid van ongeveer eenentachtig procent behaalde. Dit bewees dat de interne logica van de software voor het afhandelen van ontbrekende informatie robuust was, zelfs wanneer de bron van de ontbrekende gegevens verborgen bleef.

Om te zien hoe dit werkt in een meer realistische setting, paste het team de software toe op een dataset betreffende bloedtransfusies. Ze namen een volledig record van zevenhonderd-en-veertiocht donorgegevens en verwijderden kunstmatig de labels voor sommigen van hen. Ze behielden de labels voor donoren die gemakkelijk te classificeren waren, verwijderden de labels voor een willekeurige selectie van anderen, en verwijderden de labels voor een derde groep die specifiek was gekozen omdat zij moeilijk te classificeren waren. Dit creëerde een scenario waarin de ontbrekende labels een mix waren van willekeurige gebeurtenissen en moeilijke gevallen. De onderzoekers draaiden vervolgens de software onder drie verschillende aannames: dat alle ontbrekende labels willekeurig waren, dat ze allemaal te wijten waren aan moeilijkheidsgraad, en dat ze een mix van beide waren. De software die uitging van een mix van beide oorzaken presteerde het best. Het identificeerde de groepen bloeddonoren correct met een nauwkeurigheid van ongeveer eenenzestig procent voor de moeilijke gevallen, waarmee het de modellen overtrof die uitgingen van slechts één type ontbrekende gegevens. De software schatte ook dat ongeveer tien procent van de ontbrekende labels willekeurig was, een cijfer dat nauw aansloot bij de werkelijke opzet van het experiment.

Naast het geven van het juiste antwoord, biedt de software een manier om het eigen werk te controleren. Het berekent een mate van onzekerheid voor elke voorspelling, wat in essentie de computer vraagt hoe zeker hij is over elke classificatie. Wanneer de onderzoekers naar deze betrouwbaarheidsscores keken, vonden ze een duidelijk patroon: de datapunten die oorspronkelijk moeilijk te labelen waren, hadden veel hogere onzekerheidsscores dan de punten die gemakkelijk of willekeurig waren. Dit bevestigde dat de software er succesvol in was geslaagd om de ontbrekende labels te associëren met de moeilijkheidsgraad van de data. De tool is nu beschikbaar als een gratis pakket voor de programmeertaal R, een standaardomgeving voor statistische computatie. Het stelt onderzoekers in staat om modellen te fitten, voorspellingen te doen en diagnostiek uit te voeren zonder complexe code vanaf nul te hoeven schrijven. Het pakket bevat functies om data te simuleren, te controleren hoe goed het model werkt en om de relatie tussen ontbrekende labels en classificatie-onzekerheid te visualiseren.

De betekenis van dit werk ligt in het vermogen om de rommelige realiteit van dataverzameling aan te pakken. In veel vakgebieden, van geneeskunde tot sociale wetenschappen, is het proces van het verkrijgen van een label zelden willekeurig. Door te erkennen dat het ontbreken van gegevens zelf informatie bevat, biedt het SSLfmm-pakket een eerlijkere en nauwkeurigere manier om te leren van incomplete data. Het beweert niet elk probleem met ontbrekende informatie op te lossen, noch suggereert het dat alle ontbrekende data informatief zijn. In plaats daarvan biedt het een flexibel framework waar onderzoekers verschillende aannames over waarom data ontbreekt kunnen testen en kunnen zien welke aanname tot de beste resultaten leidt. De auteurs benadrukken dat hoewel de software goed presteerde in hun tests, de specifieke cijfers afhangen van de geanalyseerde data. De werkelijke waarde van de tool is dat het wetenschappers een manier biedt om te vragen: "Zegt het feit dat ik dit antwoord niet weet iets over het antwoord zelf?" en daarop een datagestuurd antwoord te krijgen.

Technische Samenvatting van "SSLfmm: Een R-pakket voor Semi-Supervised Learning met Gemengde Missingness"

Probleemformulering
Het artikel behandelt scenario's van semi-supervised learning (SSL) waarbij de feature-vectoren volledig geobserveerd zijn voor alle trainingsdata, maar de klassenlabels alleen beschikbaar zijn voor een subset. Een cruciaal, vaak niet gemodelleerd aspect in deze setting is het mechanisme dat de beschikbaarheid van labels bepaalt. Standaard SSL-procedures behandelen ontbrekende labels doorgaans als onbekende latente klassen zonder te modelleren waarom ze ontbreken. De auteurs stellen echter dat het missingness-proces zelf informatie kan bevatten die relevant is voor classificatie. Specifiek maakt het artikel onderscheid tussen:

Missing Completely at Random (MCAR): De beschikbaarheid van labels is ongerelateerd aan geobserveerde features of de klasse.
Missing at Random (MAR): De waarschijnlijkheid van een ontbrekend label hangt af van geobserveerde features (specifiek, classificatie-onzekerheid/entropie), maar niet van het ontbrekende label zelf.
Gemengde Missingness (Mixed Missingness): Een scenario waarin een ontbrekend label voortkomt uit ofwel een MCAR-mechanisme, ofwel een entropie-gebaseerd MAR-mechanisme. Cruciaal is dat de bron van de missingness (MCAR vs. MAR) ofwel geobserveerd (vastgelegd in de data) ofwel latent (ongeobserveerd, waarbij alleen de geaggregeerde missingness-indicator beschikbaar is) kan zijn.

Methodologie
De auteurs stellen een likelihood-gebaseerd framework voor met behulp van Gaussische eindige mengmodellen (Gaussian finite mixture models), waarbij de klassenverdeling en het label-missingness-proces gezamenlijk worden gemodelleerd. De kern van de statistische formulering omvat:

Klassenmodel: Elke klasse $i$ is geassocieerd met een multivariate Gaussische dichtheid $f_i(y; \omega_i)$ met prior-kansen $\pi_i$ .
Missingness-model:
- Voor het entropie-gebaseerde MAR-mechanisme wordt de waarschijnlijkheid van een ontbrekend label gemodelleerd via een logistische functie van de Shannon-entropie $e(y; \theta)$ van de observatie: $q_j = \text{logit}^{-1}(\xi_0 + \xi_1 \log e(y_j; \theta))$ , waarbij $\xi_1 > 0$ .
- Voor het gemengde mechanisme is de waarschijnlijkheid van een ontbrekend label een mengeling van de MCAR-waarschijnlijkheid $\alpha$ en de MAR-waarschijnlijkheid $(1-\alpha)q_j$ .
Schatting (ECM-algoritme): De parameters worden geschat met behulp van een Expectation-Conditional Maximisation (ECM) algoritme.
- E-stap: Berekent de posterieure klassenkansen en vervangt ontbrekende klasse-indicatoren door hun conditionele verwachtingen.
- C-stappen:
  - Als de bron van de missingness geobserveerd is, werkt het algoritme de MCAR-waarschijnlijkheid $\alpha$ en de MAR-parameters $\xi$ apart bij op basis van de bekende bron-indicatoren, en werkt het vervolgens de klasse-parameters $\theta$ bij.
  - Als de bron van de missingness latent is, behandelt het algoritme het specifieke mechanisme (MCAR vs. MAR) voor elk ontbrekend label als een latente variabele. Het berekent de posterieure kans dat een ontbrekend label voortkwam uit het MCAR-kanaal versus het MAR-kanaal, en werkt vervolgens $\alpha$ , $\xi$ en $\theta$ iteratief bij.

Het SSLfmm R-pakket
Het artikel introduceert het SSLfmm R-pakket dat deze methoden implementeert. Belangrijkste kenmerken zijn:

Uniform Interface: Een enkele functie fit_sslfmm() handelt complete-case, MCAR, entropie-gebaseerde MAR en gemengde MCAR/MAR analyses af.
Bron-afhandeling: Ondersteunt zowel indicator = "observed" (waarbij de gebruiker de bron van de missingness opgeeft) als indicator = "latent" (waarbij de bron wordt afgeleid).
Functionaliteit: Bevat instrumenten voor model-fitting, voorspelling (klassen, posteriors, entropie), prestatiebeoordeling (accuratesse, F1, log loss, Brier score), simulatie van gemengde missingness-data en entropie-gebaseerde diagnostiek.
Robuustheid: Maakt gebruik van meerdere startwaarden en begrensde numerieke optimalisatie om de niet-convexiteit van de likelihood te beheersen, met name voor modellen met een latente bron.

Resultaten en Illustraties
Het artikel valideert het pakket via twee primaire illustraties:

Reproduceerbare Simulatie: Een simulatie met 1.000 observaties en 31,9% ontbrekende labels (gegenereerd via een gemengde MCAR/MAR methode) vergelijkt de fits van de geobserveerde bron versus de latente bron.
- Beide formuleringen bereikten een vergelijkbare classificatieprestatie op de subset met ontbrekende labels (Accuratesse $\approx$ 0,806–0,809).
- Het model met de latente bron slaagde erin de genererende parameters ( $\alpha$ , $\xi_0$ , $\xi_1$ ) met redelijke nauwkeurigheid te herstellen, hoewel de schattingen iets meer variabel waren dan bij de fit met de geobserveerde bron.
- Entropie-diagnostiek bevestigde dat observaties gegenereerd onder het MAR-mechanisme een hogere classificatie-entropie vertoonden, wat consistent is met het ontwerp van het model.
Semi-synthetische Toepassing (Bloedtransfusie-data): Gebruikmakend van een echte dataset waarbij labels kunstmatig werden verwijderd om MCAR- en MAR-subsets te creëren, vergeleken de auteurs MCAR, MAR en Mixed modellen onder gelijke en ongelijke covariantie-aannames.
- Het Mixed model presteerde consequent beter dan de pure MCAR en pure MAR modellen in termen van harde classificatie-accuratesse, gebalanceerde accuratesse en macro F1-score op de subset met ontbrekende labels.
- Het mixed model schatte een MCAR-waarschijnlijkheid ( $\alpha$ ) die dicht bij de werkelijke constructiewaarde (0,10) lag.
- Entropie-diagnostiek toonde aan dat de "MAR"-subset (geconstrueerd uit moeilijk te classificeren punten) inderdaad een hogere entropie had dan de "MCAR" en "geobserveerde" subsets, wat de interpreteerbaarheid van het gefitte model valideert.

Betekenis en Claims
De auteurs positioneren SSLfmm niet als een generieke clustering-engine, maar als een gespecialiseerde tool die de brug slaat tussen model-gebaseerde semi-supervised learning en likelihood-gebaseerde missing-data modellering.

Afwijkende Bijdrage: In tegen tegenover bestaande pakketten (bijv. mclust, Rmixmod) die zich richten op componentverdelingen of het afhandelen van ontbrekende features, modelleert SSLfmm expliciet het stochastische proces van ontbrekende labels.
Nieuwigheid: Het is de eerste implementatie die ondersteuning biedt voor een gemengd MCAR/MAR-mechanisme waarbij de bron van de missingness ofwel geobserveerd ofwel latent kan zijn, gebruikmakend van afzonderlijke ECM-algoritmen voor elk geval.
Praktisch Nut: Het pakket stelt onderzoekers in staat om verschillende aannames over label-missingness te fitten, te vergelijken en te diagnosticeren binnen een gemeenschappelijk framework.
Beperkte Omvang: De auteurs erkennen beperkingen: de huidige implementatie gaat uit van volledig geobserveerde features en Gaussische klasse-conditionele verdelingen. Ze waarschuwen dat wanneer de bron van de missingness latent is, de data mogelijk beperkte informatie bevat om MCAR en MAR bijdragen te scheiden, wat een zorgvuldige interpretatie van de gefitte parameters naast de diagnostiek vereist. Ze beweren niet dat het mixed model altijd zal domineren, maar dat het een flexibel framework biedt om te bestuderen hoe aannames over de beschikbaarheid van labels de schatting en voorspelling beïnvloeden.

Technische Samenvatting van "SSLfmm: Een R-pakket voor Semi-Supervised Learning met Gemengde Missingness"

Meer zoals dit