💻 informatica

Selective Prediction Under Distribution Shift: The Failure of Threshold Transfer

Deze studie toont aan dat standaard drempelgebaseerde selectieve voorspelling faalt onder distributieverschuiving omdat de optimale afkapwaarde die op schone data is bepaald, niet overdraagbaar is naar gecorrumpeerde of real-world data, hetgeen het gebruik van nieuwe gelabelde data noodzakelijk maakt om statistisch geldige stopregels vast te stellen.

Oorspronkelijke auteurs: Shayam Ahmad

Gepubliceerd 2026-10-29

📖 6 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Shayam Ahmad

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je een computerprogramma voor dat getraind is om objecten in foto's te herkennen. In een perfecte wereld zou dit programma altijd gelijk hebben. Maar de echte wereld is rommelig. Een camera kan een vlek van regen hebben, een foto kan zijn genomen in zwak licht, of een object kan vanuit een vreemde hoek worden bekeken. Wanneer de foto's die de computer ziet gaan verschillen van de foto's die hij tijdens de training heeft bestudeerd, raakt het programma vaak in de war. Het geeft dan misschien nog steeds een antwoord, maar dat antwoord is waarschijnlijk fout. Om dit op te vangen, hebben onderzoekers een veiligheidsventiel ontwikkeld: ze laten de computer zeggen: "Ik weet het niet." Als het programma niet zelfverzekerd genoeg is, blijft het stil in plaats van te gokken. Dit wordt selectieve voorspelling genoemd. Het doel is simpel: een regel vaststellen die de computer vertelt wanneer hij moet spreken en wanneer hij stil moet blijven, zodat hij, wanneer hij ook maar spreekt, meestal gelijk heeft.

Jarenlang was de standaardmanier om deze regel vast te stellen, het testen van de computer op schone, perfecte foto's. Onderzoekers kiezen een betrouwbaarheidsniveau dat werkt voor die schone foto's, zoals een instelling die garandeert dat de computer slechts 5% van de tijd fout zit wanneer hij spreekt. Vervolgens nemen ze diezelfde instelling mee naar de echte wereld, uitgaande van de veronderstelling dat deze standhoudt, zelfs wanneer de foto's wazig of vervormd zijn. Een nieuwe studie door Shayam Ahmad aan de C.V. Raman Global University daagt deze aanname uit. Het onderzoek stelt een directe vraag: werkt een regel die werkt op schone data nog steeds wanneer de data verandert? Het antwoord is een luidruchtig nee. De studie concludeert dat de regel onder real-world omstandigheden volledig instort, wat vaak leidt tot foutmarges die veel hoger liggen dan beloofd, terwijl de computer zelfverzekerd blijft spreken over foto's die hij eigenlijk had moeten afwijzen.

De onderzoekers testten dit idee met een standaard set afbeeldingen en twee verschillende soorten computer vision-modellen. Eerst trainden ze de modellen op schone foto's en daarna onderwierpen ze ze aan diverse soorten schade, zoals het toevoegen van ruis, het vervagen van de afbeelding of het veranderen van de kleuren. Ze testten de modellen ook op een nieuwe set real-world foto's die er iets anders uitzagen dan de trainingsdata, wat de langzame verschuiving nabootst die optreedt wanneer een systeem maandenlang in het veld wordt gebruikt. In elk geval pasten ze dezelfde regel toe die op de schone data was gekozen. De resultaten waren schrijnend. Wanneer de onderzoekers een doelstelling van 5% foutmarge stelden, lag de werkelijke foutmarge op de beschadigde afbeeldingen in de slechtste gevallen tussen de 42% en 45%. Met andere woorden: de computer zat bijna de helft van de tijd naast het doel, zelfs terwijl de regel beloofde dat hij slechts 5% van de tijd fout zou zitten. Het probleem werd nog erger toen ze strenger probeerden te zijn. Als ze streefden naar een foutmarge van 1%, was de werkelijke fout bijna 20 keer hoger dan de belofte.

Men zou zich kunnen afvragen of de computer simpelweg slecht is geworden in het rangschikken van zijn eigen vertrouwen. Misschien sorteerde hij de foto's verkeerd, door de makkelijke bovenaan de lijst te zetten en de moeilijke onderaan, maar slaagde hij er niet in om de juiste lijn te trekken. Om dit te testen, splitsten de onderzoekers het probleem op in twee delen. Het eerste deel is de rangschikking: hoe goed de computer de foto's ordent van "meest zeker" naar "minst zeker". Het tweede deel is de stopregel: waar de lijn wordt getrokken om te beslissen wanneer men stopt met antwoorden. Ze ontdekten dat de rangschikking eigenlijk heel goed was. Vier verschillende manieren om vertrouwen te meten produceerden bijna dezelfde volgorde. De computer wist welke foto's moeilijker waren dan andere. De fout zat volledig in het tweede deel. De lijn die op de schone data werd getrokken, lag simpelweg op de verkeerde plek voor de rommelige data. Het liet veel te veel moeilijke foto's toe, die als gemakkelijk werden geaccepteerd, wat de foutmarge deed exploderen.

De studie onderzocht ook of bestaande trucjes dit konden oplossen zonder dat er nieuwe informatie nodig was. Sommige methoden proberen de foutmarge van de nieuwe data te raden zonder de juiste antwoorden te zien, in de hoop de regel automatisch aan te passen. De onderzoekers testten twee van deze gepubliceerde methoden. Geen van beide werkte. Ze verminderden de fout enigszins, maar losten het probleem niet op, en beide presteerden slechter dan een zeer eenvoudige regel die simpelweg gokte op basis van het gemiddelde vertrouwen. De enige manier om het probleem echt op te lossen, was het gebruik van een kleine hoeveelheid nieuwe, gelabelde data uit de rommelige omgeving. Door de computer een paar honderd of een paar duizend van de nieuwe foto's met hun juiste antwoorden te tonen, konden de onderzoekers een nieuwe stopregel vinden die de veiligheidsdoelstelling daadwerkelijk haalde. Deze oplossing brengt echter een zware prijs met zich mee. Bij milde veranderingen in de data hadden ze ongeveer 800 gelabelde voorbeelden nodig om een betrouwbare regel te krijgen. Bij sterke corruptie hadden ze meer dan 4.000 nodig. Dit creëert een moeilijke situatie: hoe meer de data verandert, hoe meer gelabelde voorbeelden nodig zijn om veilig te blijven, terwijl gelabelde voorbeelden juist het moeilijkst te verkrijgen zijn wanneer de data het sterkst verandert.

De implicaties van deze bevinding zijn praktisch en onmiddellijk. Het suggereert dat het simpelweg toepassen van een regel die ontworpen is voor perfecte omstandigheden op de echte wereld gevaarlijk is. De belofte van veiligheid is een illusie als de data is verschoven. De onderzoekers concluderen dat als een systeembeheerder het niet kan veroorloven om nieuwe data uit het veld te labelen, hij helemaal geen specifieke belofte over foutmarges moet doen. Een doelstelling stellen die niet gehouden kan worden, is erger dan helemaal geen doelstelling noemen, omdat het een vals gevoel van veiligheid geeft. De studie biedt geen wondermiddel dat het probleem zonder kosten oplost, maar het ruimt wel een grote misvatting opzij. Het laat zien dat de fout niet ligt in het vermogen van de computer om moeilijkheidsgraad te beoordelen, maar in de rigide regel die wordt gebruikt om te beslissen wanneer men spreekt. De weg vooruit vereist het erkennen dat de regels van het spel veranderen wanneer de omgeving verandert, en dat het houden van een belofte van veiligheid in een veranderende wereld een prijs vraagt in de vorm van nieuwe informatie.

Technische Samenvatting: Selectieve Voorspelling onder Distributieverschuiving: Het Falen van Drempelwaarde-transfer

Probleemformulering
Selectieve voorspelling stelt een model in staat om te onthouden van antwoorden wanneer de betrouwbaarheid laag is, met als doel een beoogde foutenratio ( $\alpha$ ) te handhaven onder de antwoorden die het wel geeft. De standaardbenadering behelst het trainen van een classifier $f$ en een betrouwbaarheidsscore $g$ , waarbij vervolgens een drempelwaarde $t$ wordt geselecteerd op een validatieset van de trainingsdistributie $P$ , zodanig dat het selectieve risico $R_{val}(t) \le \alpha$ is. Het systeem wordt vervolgens ingezet op data afkomstig uit een verschoven distributie $Q$ .

Het kernprobleem dat wordt onderzocht is het falen van drempelwaarde-transfer: de aanname dat een drempelwaarde $t$ , geoptimaliseerd voor distributie $P$ , de beoogde foutenratio $\alpha$ zal handhaven wanneer deze wordt toegepast op distributie $Q$ . Hoewel het een vaststaand feit is dat de kalibratie van modelbetrouwbaarheid verslechtert onder distributieverschuiving, isoleert deze studie of het falen ligt in de sortering van inputs (de kwaliteit van de betrouwbaarheidsscore) of in de stopregel (de selectie van de drempelwaarde).

Methodologie
De studie maakt gebruik van een rigoureus meetkader met CIFAR-10, CIFAR-10-C (met 15 standaard corrupties op 5 ernstgraden) en CIFAR-10.1 (een benchmark voor real-world shift). Twee modelarchitecturen (ResNet18 en WideResNet-16-4) worden getraind tot een fout die bijna nul is en gekalibreerd met temperature scaling.

De methodologie ontleedt het systeem in twee afzonderlijke componenten:

Sortering: Gemeten via de Area Under the Risk-Coverage Curve (AURC). Vier betrouwbaarheidsscores worden vergeleken: Maximum Softmax Probability (MSP), Margin, Negative Entropy en Ensemble Disagreement.
Stoppen (Drempelwaarde Selectie): Vijf regels worden geëvalueerd voor het selecteren van de drempelwaarde $t$ $t$ op de verschoven data $Q$ $Q$ :
- Clean Transfer: Gebruikmaken van de drempelwaarde afgeleid van de schone validatiedata (de baseline).
- Oracle: De optimale drempelwaarde afgeleid met ware labels uit $Q$ (de theoretische bovengrens).
- Label-vrije Schatters: Average Thresholded Confidence (ATC-MC, ATC-NE) en Mean Confidence (waarbij de fout wordt geschat als $1 - \text{gemiddelde betrouwbaarheid}$ ).
- Gegarandeerde Risicocontrole: Een methode die een kleine gelabelde steekproef uit $Q$ gebruikt en exacte binomiale grenzen (Algoritme 1) om een drempelwaarde te selecteren met een statistische garantie.

Kernmetrieken zijn onder meer de Risico-ratio (gerealiseerde fout / doel), Coverage Error (verschil tussen werkelijke coverage en oracle coverage) en Efficiëntie (coverage bereikt door de methode / oracle coverage).

Belangrijkste Bijdragen

Kwantificering van Falen: De studie toont aan dat de "gebroken factor" (Risico-ratio) drastisch toeneemt naarmate de beoogde foutenratio strenger wordt. Voor een doel van 5% is de gerealiseerde fout 8,4 keer de belofte; voor een doel van 1% is het 19,1 keer de belofte.
Isolatie van de Foutmodus: Door het gebruik van de Oracle-drempelwaarde bewijst het artikel dat het doel haalbaar is onder verschuiving. Het falen is niet dat het doel onmogelijk is, maar dat de stopregel (drempelwaarde selectie) gebrekkig is. De sorteringscomponent (betrouwbaarheidsscores) blijft robuust, waarbij vier verschillende scores bijna identieke AURC-waarden opleveren.
Negatief Resultaat op Label-vrije Methoden: Twee gepubliceerde methoden voor het schatten van nauwkeurigheid zonder labels (ATC en Difference of Confidences) falen in het oplossen van het probleem van drempelwaarde-transfer. Beiden presteren slechter dan een eenvoudige "Mean Confidence" regel, die de fout schat als $1 - \text{gemiddelde betrouwbaarheid}$ .
Kosten van Garanties: Een methode met een formele statistische garantie (Algoritme 1) slaagt erin de beoogde foutenratio te herstellen. Echter, de studie kwantificeert de labelkosten: het bereiken van 80% efficiëntie vereist ongeveer 800 gelabelde voorbeelden onder milde real-world shift (CIFAR-10.1) en meer dan 4.000 onder sterke corruptie (CIFAR-10-C, ernst 5).

Resultaten

Drempelwaarde-transfer Falen: Een drempelwaarde gekozen voor 5% fout op schone data resulteert in 42–45% fout bij de hoogste corruptieniveaus. Op CIFAR-10.1 (een milde verschuiving), verdubbelt de fout naar ~11% terwijl de coverage op 100% blijft (het model onthoudt zich niet van antwoorden).
Sorteringsrobuustheid: De vier betrouwbaarheidsscores (MSP, Margin, Entropy, Disagreement) produceren bijna identieke sorteervolgordes. De kloof in prestaties wordt volledig gedreven door waar de drempelwaarde wordt geplaatst, niet door de kwaliteit van de score.
Coverage Error: De "Clean Transfer" regel accepteert 67–77% meer data dan het zou moeten doen (positieve coverage error), wat leidt tot de hoge gerealiseerde fout.
Label-vrij vs. Eenvoudige Regels: De "Mean Confidence" regel (een eenvoudige rekenkundige heuristiek) presteert consequent beter dan de complexere ATC-methoden in deze specifieke setting van het selecteren van een drempelwaarde voor een deelverzameling.
Label Vereisten: De kosten voor het verkrijgen van een statistische garantie schalen niet-lineair met de ernst van de verschuiving. Naarmate de haalbare coverage daalt (door de verschuiving), neemt het aantal benodigde labels om een lage foutenratio te bewijzen aanzienlijk toe.

Betekenis en Claims
Het artikel claimt een "zorgvuldige meting" te bieden in plaats van een nieuw algoritme. De primaire betekenis ligt in het corrigeren van een misconceptie in het vakgebied:

De Stopregel is de Bottleneck: Onderzoek dat zich uitsluitend richt op het verbeteren van betrouwbaarheidsscores (sortering) zal het probleem van drempelwaarde-transfer niet oplossen, aangezien de sortering al bijna optimaal is. Het falen ligt in de selectie van de drempelwaarde.
Het Gevaar van Ongeverifieerde Doelen: Het inzetten van een systeem met een gestelde foutenratio gebaseerd op schone validatiedata is gevaarlijk onder distributieverschuiving. Het doel is effectief gebroken, maar het systeem blijft toch antwoorden, wat potentieel problematisch is voor downstream componenten die vertrouwen op de gestelde risico-informatie.
Praktische Afwegingen: De studie concludeert dat men, om een strikte foutengarantie onder verschuiving te handhaven, ofwel moet betalen voor gelabelde data uit de nieuwe distributie (met kosten die scherp stijgen bij sterke verschuiving), ofwel moet afzien van het noemen van een specifieke foutenratio. Het artikel merkt expliciet op dat de "no-label" route, via bestaande schattingsmethoden, momenteel geen oplossing biedt.

De auteur blijft bescheiden en merkt op dat hun bevindingen specifief zijn voor beeldclassificatie van de omvang van CIFAR en dat de gerapporteerde labelkosten bovengrenzen zijn op basis van de specifieke statistische grenzen die zijn gebruikt. Zij beweren niet dat geen enkele label-vrije methode ooit kan werken, enkel dat de twee geteste methoden gefaald hebben.

Meer zoals dit