Fair Decisions from Calibrated Scores: Achieving Optimal Classification While Satisfying Sufficiency

Stel je voor dat je een rechter bent die beslist wie een lening krijgt, wie wordt aangenomen of wie borgtocht krijgt. Je hebt een "score" voor elke aanvrager—een getal dat inschat hoe waarschijnlijk het is dat zij succesvol zullen zijn (of, in het geval van borgtocht, niet opnieuw een misdrijf zullen plegen).

In een perfecte wereld zou je simpelweg één lijn trekken op de scorekaart: "Als je score boven de 50 ligt, krijg je de lening; als het eronder ligt, krijg je die niet." Dit is de eenvoudigste, meest nauwkeurige manier om beslissingen te nemen.

Het Probleem: Eén maat past niet voor iedereen
In de echte wereld geven we echter om eerlijkheid. We willen ervoor zorgen dat als twee mensen dezelfde werkelijke kans op succes hebben, ze dezelfde beslissing krijgen, ongeacht hun achtergrond (zoals ras of geslacht).

De paper wijst op een lastige paradox:

• Als je voor iedereen dezelfde lijn gebruikt (een enkele drempelwaarde), behandel je groepen vaak onrechtvaardig. Bijvoorbeeld: een score van 70 kan een kans van 90% op succes betekenen voor Groep A, maar slechts 60% voor Groep B. Als je leningen geeft aan iedereen met een 70, krijgt Groep A geweldige leningen, maar krijgt Groep B leningen waarbij ze waarschijnlijk zullen wanbetalen. Dit schendt Sufficiency (ook wel "Predictive Parity" genoemd), wat eist dat een "positieve" beslissing (zoals een lening) voor iedereen hetzelfde betekent.
• Als je probeert dit op te lossen door verschillende lijnen voor verschillende groepen te trekken, schend je mogelijk andere eerlijkheidsregels (zoals Equal Opportunity).

Het is alsof je een vierkant blokje in een rond gat probeert te passen. De paper stelt dat zelfs als je scores perfect accuraat zijn, je ze niet simpelweg met één enkel mes kunt doorsnijden om een eerlijk resultaat te krijgen.

De Oplossing: Een Gepersonaliseerde "Mix-en-Match"-Aanpak
De auteurs, Etam Benger en Katrina Ligett, stellen een nieuwe manier voor om de taart te verdelen. In plaats van een enkele rechte lijn, stellen ze een slimme, gerandomiseerde post-processing algoritme voor.

Denk er als volgt over:
Stel je voor dat je een stapel appels (aanvragers) hebt gesorteerd op grootte (scores).

1. De Standaard Manier: Je zegt: "Alle appels groter dan 5 inch gaan naar de premium doos." Dit is makkelijk, maar het kan ertoe leiden dat Groep A vooral premium appels heeft en Groep B vooral standaard appels, zelfs als de kwaliteit van de appels in de premium doos voor beide groepen gelijk zou moeten zijn.
2. De Manier uit de Paper: Je bekijkt de appels van Groep A en Groep B apart. Je realiseert je dat om dezelfde kwaliteit appel in de premium doos te krijgen voor beide groepen, je niet alleen een grootte-ondergrens kunt gebruiken.
   • Voor Groep A neem je alle appels groter dan 5 inch.
   • Voor Groep B neem je alle appels groter dan 6 inch, EN je kiest ook willekeurig 50% van de appels die precies 5,5 inch zijn.

Deze "gerandomiseerde" stap is de sleutel. Somsast de algoritme een muntje opwerpt om te beslissen over het lot van een aanvrager met een specifieke score. Dit is niet omdat het algoritme in de war is; het is een wiskundige truc om de kansen in balans te brengen, zodat de uiteindelijke groep "goedgekeurde" mensen exact hetzelfde succespercentage heeft, ongeacht uit welke groep ze kwamen.

De "Feasible Map" (Haalbare Kaart)
De auteurs hebben een geometrische kaart gemaakt (een vorm op een grafiek) die elke mogelijke combinatie laat zien van "Positive Predictive Value" (hoe vaak een "Ja" daadwerkelijk correct is) en "False Omission Rate" (hoe vaak een "Nee" eigenlijk een gemiste "Ja" was).

• Ze ontdekten dat voor elk specifiek niveau van eerlijkheid (Sufficiency), er een specifieke "grens" op deze kaart bestaat.
• Hun algoritme volgt deze grens om de best mogelijke beslissingsregel te vinden. Het vindt het punt op de kaart dat de hoogste nauwkeurigheid biedt terwijl het de eerlijkheidsregel strikt naleeft.

Tests in de Praktijk
Ze hebben hun methode getest op drie scenario's uit de echte wereld:

1. FICO Credit Scores: Beslissen wie een lening krijgt. Ze lieten zien dat hun methode de oneerlijkheid in standaard kredietwaardigheidsscores kan oplossen, terwijl de nauwkeurigheid zeer hoog blijft.
2. COMPAS Recidivism Scores: Voorspellen of een crimineel opnieuw een misdrijf zal plegen. Ze lieten zien dat de standaard "afkapwaarden" die in rechtbanken worden gebruikt vaak de eerlijkheidstest niet doorstaan, maar dat hun methode een betere, eerlijkere manier kan vinden om deze binaire beslissingen te nemen.
3. Inkomensvoorspelling: Voorspellen of iemand meer dan $50k verdient. Ze trainden een model en gebruikten vervolgens hun "post-processing" tool om de eerlijkheidsproblemen op te lossen zonder het model volledig opnieuw te hoeven trainen.

De Kernboodschap
De paper beargumenteert dat je je huidige scoringssysteem niet weg hoeft te gooien. Als je scores die redelijk gekalibreerd zijn (wat betekent dat een score van 0,8 echt een 80% kans betekent), kun je hun eenvoudige "post-processing" tool gebruiken om deze scores om te zetten in eerlijke, binaire beslissingen (Ja/Nee).

Dit hulpmiddel zorgt ervoor dat als je tegen iemand "Ja" zegt, de waarschijnlijkheid dat zij succesvol zijn, hetzelfde is of ze nu tot Groep A of Groep B behoren. Het bereikt dit door soms willekeurige beslissingen te nemen voor mensen op de "grenslijn", waardoor de ruwe randen die oneerlijkheid veroorzaken, effectief worden afgevlakt.

Kortom: Je kunt zowel hoge nauwkeurigheid als strikte eerlijkheid hebben, maar je moet stoppen met het gebruiken van een enkele, rigide lijn om beslissingen te nemen. In plaats daarvan heb je een flexibele, licht gerandomiseerde aanpak nodig die de auteurs nu wiskundig hebben geperfectioneerd.