Wasserstein Filtering: A Sample Selection Method for Robust Distribution Learning

Stel je voor dat je de ware vorm van een wolk probeert te leren door naar een hoop witte, pluizige wattenballetjes te kijken. Maar hier komt de crux: een ondeugende gremlin is in je collectie geslopen en heeft sommige wattenballetjes vervangen door zware, grillige stenen, of heeft sommige wattenballetjes fel neonroze geverfd. Als je de vorm van de wolk probeert te raden door naar de hele hoop te kijken, zal je antwoord helemaal niet kloppen vanwege die indringers. Dit is de dagelijkse strijd van de "robuuste statistiek", een tak van de wetenschap die gewijd is aan het vinden van de waarheid, zelfs wanneer gegevens rommelig, kapot of actief bezig zijn met je te misleiden.

Om dit op te lossen, gebruiken wetenschappers vaak een hulpmiddel dat de "Wasserstein-afstand" wordt genoemd. Denk hierbij niet aan een liniaal, maar aan een "verplaatsingskosten". Stel je voor dat je een hoop vuil hebt (jouw data) en je moet die vuilophoping verplaatsen om een doelvorm te matchen. De Wasserstein-afstand berekent de minimale hoeveelheid werk die nodig is om elk korreltje vuil van zijn huidige plek naar zijn nieuwe thuis te verplaatsen. Als het vuil ver weg verspreid ligt, kost het veel energie om het te verplaatsen; als het dichtbij is, kost het heel weinig. Deze methode is bijzonder omdat het geometrie begrijpt — het weet dat een rots die ver weg ligt heel anders is dan een stofje dat dichtbij ligt, terwijl andere simpelere methoden misschien alleen tellen hoeveel stenen er zijn zonder te geven om waar ze zich bevinden.

Stel je nu voor dat je een detective bent die een plaats delict probeert op te schonen waar het bewijsmateriaal mee is geknoeid. Je hebt een lijst met 1.000 getuigenverklaringen, maar je weet dat tot 15% daarvan leugens zijn die door een saboteur zijn geplant. Jouw doel is om de 850 meest eerlijke verklaringen te selecteren om het ware verhaal te reconstrueren, zonder vooraf te weten welke de leugens zijn. Dit is precies het probleem dat wordt aangepakt in het artikel "Wasserstein Filtering". De auteurs, Yikai Xu, Zhao Chen en Jian Huang, stellen een slimme nieuwe manier voor om door de ruis heen te zeven. In plaats van te raden welke datapunten slecht zijn op basis van hoe ver ze van het centrum afliggen, draaien ze het scenario om. Ze vragen: "Welke groep datapunten zou, als we alleen die zouden houden, het meest verschillend lijken van het rommelige, besmette geheel?"

De logica is contra-intuïtief maar briljant. Als je een hoop door elkaar gehusselde data hebt, zijn de "slechte" uitschieters meestal degenen die het gemiddelde in vreemde richtingen trekken. Door de subset van data te vinden die de grootste "verplaatsingskosten" (Wasserstein-afstand) creëert weg van de besmette bende, identificeert het algoritme effectief en gooit het de uitschieters weg die de meeste geometrische vervorming veroorzaken. Het is alsoals het vinden van de groep mensen in een drukke kamer die, als ze allemaal bij elkaar zouden staan, het verst verwijderd zouden zijn van de chaotische bende van de rest van de menigte. Het artikel laat zien dat je door dit te doen, de "schone" data met hoge precisie kunt isoleren.

De onderzoekers hebben niet alleen een idee bedacht; ze hebben drie verschillende "machines" (algoritmen) gebouwd om dit mogelijk te maken. De ene is een snelle, één-voor-één controle genaamd "SinkMarg", die goed is voor eenvoudige gevallen maar traag kan worden bij enorme datasets. De andere twee, "SinkWF" en "SlicedWF", zijn krachtiger. Ze gebruiken geavanceerde wiskundige trucs (zoals "entropische optimale transport" en "gesneden" benaderingen) om het puzzelstukje in één keer op te lossen, zelfs wanneer de data complex of hoogdimensionaal is. Het artikel bewijst wiskundig dat deze methode de best mogelijke manier is om dit te doen onder bepaalde omstandigheden, specifiek wanneer de "slechte" data ofwel heel ver weg is, ofwel op een lastige manier heel dicht bij de "goede" data zit.

In hun experimenten hebben ze dit getest op alles van eenvoudige 2D-tekeningen tot complexe moleculaire grafieken en zelfs afbeeldingen van handgeschreven cijfers. Ze ontdekten dat hun methode, vooral het "SinkWF"-algoritme, ongelooflijk goed was in het opsporen van de valse data, en vaak de bestaande top-tools overtrof. Bijvoorbeeld, toen ze een computer probeerden te leren om nieuwe afbeeldingen van cijfers te genereren (zoals het getal "7") met behulp van een dataset vol gecorrumpeerde afbeeldingen, maakte het eerst filteren van de data met hun methode de resulterende afbeeldingen veel duidelijker en nauwkeuriger. Ze merkten echter ook op dat als de "slechte" data zo klein is dat het nauwelijks opvalt, of als de data extreem hoogdimensionaal is zonder voldoende projecties, de methode moeite kan hebben. Maar over het algemeen hebben ze aangetoond dat deze "Wasserstein Filtering" een krachtig, model-agnostisch hulpmiddel is dat data kan opschonen voordat het aan een ander machine learning-systeem wordt gevoed, waardoor de uiteindelijke resultaten veel betrouwbaarder zijn.