A Lightweight Calibration-Selection Policy After a Probe Fit for Selective Classification on OpenML Tabular Tasks

In de wereld van machine learning worden computers vaak geleerd om voorspellingen te doen door patronen in gegevens te vinden. Zodra een model heeft geleerd het juiste antwoord te raden, wijst het meestal een getal toe om aan te geven hoe zeker het is over die gok. Lange tijd namen onderzoekers aan dat het nauwkeuriger maken van deze vertrouwenscijfers altijd een goede zaak was. Ze behandelden een proces dat kalibratie wordt genoemd als een standaard laatste stap, zoals het polijsten van een lens om een beeld duidelijker te maken. De hoop was dat als de vertrouwenscijfers van de computer de werkelijkheid dichter benaderden, het systeem slimmer zou worden in wanneer het wel en wanneer het stil zou blijven. Dit vermogen om stil te blijven, bekend als onthouding (abstention), is cruciaal in situaties met hoge inzet waar een verkeerde gok erger is dan geen gok. Als een medisch diagnostisch hulpmiddel onzeker is, is het beter dat het onzekerheid toegeeft en om hulp vraagt aan een mens, dan dat het vol vertrouwen een foutieve diagnose geeft.

Echter, een nieuwe studie suggereert dat deze standaard polijststap niet altijd helpt, en soms zelfs de boel kan verslechteren wanneer het doel is om te weten wanneer men moet zwijgen. Onderzoekers van de Shanghai Dianji University onderzochten of deze automatische polijststap werkelijk gunstig is voor een specifiek type computertaak waarbij tabellen met gegevens betrokken zijn. Ze keken naar een collectie van vijftien verschillende real-world problemen, variërend van het identificeren van handgeschreven cijfers tot het classificeren van soorten grond. Ze testten of het toepassen van een wiskundige correctie op de vertrouwensscores van de computer de capaciteit van het systeem daadwerkelijk verbeterde om te beslissen wanneer het moest onthouden. Wat ze vonden was een verrassende discrepantie: hoewel de correctie de vertrouwenscijfers gemiddeld genomen nauwkeuriger maakte, verstoorde het vaak de rangschikking van die cijfers op een manier die het vermogen van het systeem om terug te treden schaadde. Kortom, het nauwkeuriger maken van de getallen maakte de beslissing om wel of niet te spreken niet automatisch beter.

Om te begrijpen waarom dit ertoe doet, stel je een weervoorspeller voor die erg goed is in het voorspellen van regen, maar soms de volgorde van gebeurtenissen verkeerd krijgt. Als zij zegt dat er een kans van 90 procent op regen is op maandag en een kans van 95 procent op dinsdag, maar de interne rangschikking van de computer suggereert dat dinsdag minder waarschijnlijk is dan maandag, dan kan een systeem dat op die rangschikking vertrouwt om te beslissen of er een waarschuwing moet worden uitgegeven, falen. De onderzoekers bestudeerden exact dit probleem door vooraf getrainde computermodellen te nemen en deze te testen op deze vijftien datasets. Ze vergeleken de oorspronkelijke, ongepolijste vertrouwensscores van de modellen met versies die waren aangepast door twee verschillende wiskundige methoden. De ene methode rekte of kneep de vertrouwensschaal simpelweg uit, terwijl de andere een complexere transformatie toepaste die ontworpen was om meerdere mogelijke uitkomsten te verwerken. Ze maten twee zaken: hoe goed de uiteindelijke getallen overeenkwamen met de waarheid, en hoe goed het systeem presteerde bij de taak om te kiezen wanneer er voorspeld werd en wanneer er werd onthouden.

De resultaten toonden een duidelijke spanning tussen deze twee doelen. Gemiddeld produceerden de aangepaste modellen betere waarschijnlijkheidsgetallen, wat betekent dat de vertrouwensscores dichter bij de werkelijke frequentie van de juiste antwoorden lagen. Echter, deze verbetering in nauwkeurigheid ging gepaard met een prijs. In bijna de helft van de gevallen maakte de aanpassing het systeem eigenlijk slechter in het beslissen wanneer het moest onthouden. De onderzoekers ontdekten dat de wiskundige wijzigingen, hoewel ze de getallen herstelden, soms de volgorde van de voorspellingen zo door elkaar haalden dat het de regel verwarde die werd gebruikt om te beslissen wanneer men moest stoppen. Een model dat oorspronkelijk goed was in het herkennen van welke voorbeelden moeilijk waren, kon zodanig opnieuw gerangschikt zijn dat de moeilijke voorbeelden er gemakkelijk uitzagen, wat leidde tot het maken van zelfverzekerde fouten die het had moeten vermijden. Deze ontdekking daagt het idee uit dat kalibratie een universele oplossing is die zonder vragen aan elk model moet worden toegepast.

In plaats van blindelings deze correcties toe te passen, stelden de auteurs een slimmere, lichtere aanpak voor. Ze ontwikkelden een eenvoudig besluitvormingsinstrument dat fungeert als een poortwachter. Voordat een model wordt gebruikt, controleert dit instrument specifieke signalen van een kleine steekproef aan gegevens om te beslissen of de aanpassing het waard is om te behouden. Het kijkt naar hoe de aanpassing de vertrouwensscores heeft veranderd en of die veranderingen de rangschikking van de voorspellingen leken te helpen of te schaden. Als de signalen suggereren dat de aanpassing de capaciteit van het systeem om correct te onthouden zal verbeteren, behoudt het instrument de correctie. Als de signalen suggereren dat het voor verwarring zal zorgen, verwijdert het instrument de correctie en houdt het vast aan het originele, niet-aangepaste model. Deze strategie stelt het systeem in staat om de voordelen van kalibratie te behouden wanneer dat nuttig is, terwijl het de valkuilen vermijdt wanneer dat niet het geval is.

De onderzoekers testten deze poortwachter op dezelfde vijftien datasets en vonden dat het goed werkte. Het instrument identificeerde succesvol de juiste momenten om de aanpassing toe te passen in ongeveer 56 procent van de gevallen. Wanneer het een keuze maakte, zag het systeem een kleine maar betekenisvolle verbetering in de algehele prestaties, waarbij het aantal keren dat een slechte beslissing werd genomen aanzienlijk werd verminderd vergeleken met het altijd toepassen van de fix. De onderzoekers vergeleken ook verschillende soorten poortwachters door een eenvoudig lineair model te testen tegen een complexere boomstructuur. Ze ontdekten dat het eenvoudigere, lineaire model eigenlijk de betere keuze was, omdat het consistenter presteerde over de verschillende taken heen. Dit suggerealt dat een eenvoudige controle vaak voldoende is om de juiste beslissing te nemen, zonder dat daar een ingewikkeld systeem voor nodig is.

De bevindingen bieden een praktische les voor iedereen die systemen bouwt die moeten weten wanneer ze stil moeten blijven. De studie zegt niet dat het aanpassen van vertrouwensscores slecht is; het stelt eerder dat de beslissing om ze aan te passen niet automatisch moet zijn. De relatie tussen het hebben van nauwkeurige getallen en het maken van goede beslissingen over wanneer men spreekt, is geen rechte lijn. Soms kan het nauwkeuriger maken van de getallen juist de signalen verbergen die een systeem nodig heeft om te weten wanneer het moet stoppen. Door een lichtgewicht controle te gebruiken om te beslissen of de aanpassing behouden blijft, kunnen ontwikkelaars het risico vermijden dat hun systemen minder betrouwbaar worden. Deze aanpak behandelt kalibratie niet als een verplichte laatste stap, maar als een voorwaardelijk instrument dat alleen wordt gebruikt wanneer het bewijs suggereert dat het echt helpt.

De onderzoekers merkten er zorgvuldig bij op dat hun conclusies gebaseerd zijn op een specifieke set gegevens en twee specifieke methoden van aanpassing. Ze hebben niet elk mogelijk type gegevens of elke mogelijke manier om vertrouwensscores aan te passen getest. Hun resultaten zijn specifiek voor de vijftien datasets die zij hebben bestudeerd, die taken bevatten zoals het herkennen van letters en het sorteren van bodemmonsters. Ze merkten ook op dat de verbeteringen in het vermogen om te onthouden, hoewel statistisch significant, klein waren in absolute termen. Dit betekent dat hoewel de methode werkt, het geen wondermiddel is dat elk probleem zal oplossen. De waarde ligt in het vermogen om schade te voorkomen in plaats van het behalen van enorme winsten. De studie dient als een herinnering dat in complexe systemen de weg naar betere prestaties vaak gaat over weten wanneer men moet stoppen en wanneer men moet doorgaan, in plaats van alleen maar harder in één richting te duwen.

Uiteindelijk verschuift dit werk het gesprek van de vraag of men moet kalibreren naar de vraag wanneer men moet kalibreren. Het suggereert dat de beste praktijk is om de aanpassing op een kleine steekproef toe te passen, de resultaten te controleren en vervolgens te beslissen of men deze wil behouden. Deze "fit and check"-methode is betrouwbaarder dan de aanname dat de aanpassing altijd goed of altijd slecht is. Door de beslissing te behandelen als een voorwaardelijke keuze in plaats van een vaste regel, hebben de onderzoekers een manier geboden om machine learning-systemen robuuster te maken in situaties waarin een fout kostbaar is. De studie bevestigt dat hoewel computers geleerd kunnen worden om nauwkeuriger te zijn, die nauwkeurigheid niet altijd vertaalt naar een beter oordeelsvermogen, en dat een beetje mensachtige voorzichtigheid in het ontwerpproces een heel eind kan komen.