🤖 machine learning

Model Multiplicity and Predictive Arbitrariness in Recidivism Risk Assessment

Dit artikel onderzoekt voorspellende willekeur in de beoordeling van recidiverisico door aan te tonen dat, ondanks het bestaan van meerdere even nauwkeurige modellen, hun voorspellingen in de praktijk vaak een aanzienlijke overeenstemming vertonen, en stelt een beleid voor waarbij de laagste risicoscore onder deze modellen wordt toegewezen als een effectieve oplossing om inconsistenties in de besluitvorming te mitigeren.

Oorspronkelijke auteurs: Ashwin Singh, Carlos Castillo

Gepubliceerd 2026-06-02

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Ashwin Singh, Carlos Castillo

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een rechter bent die moet beslissen of een gevangene vervroegd vrij mag worden. Je hebt een computerprogramma dat een "risicoscore" geeft om te voorspellen of de gevangene opnieuw een misdaad zal begaan. Dit is de echte situatie waar het artikel over gaat, specifiek kijkend naar een systeem dat in Catalonië, Spanje, wordt gebruikt, genaamd RisCanvi.

Hier is het verhaal van het artikel, opgedeeld in eenvoudige concepten en analogieën.

1. Het Probleem: Het "Rashomon"-effect

In de film Rashomon vertellen vier verschillende getuigen vier totaal verschillende verhalen over dezelfde misdaad, terwijl alle verhalen aannemelijk lijken.

De auteurs ontdekten dat machine learning-modellen onderhevig zijn aan hetzelfde probleem. Bij het proberen te voorspellen of een gevangene opnieuw een misdaad zal begaan, is er niet slechts één "juiste" wiskundige formule. Er zijn veel verschillende formules die allemaal even goed zijn in het voorspellen van het verleden.

Het probleem: Als je twee even slimme formules hebt, maar ze geven verschillende antwoorden voor dezelfde persoon (de ene zegt "Laag Risico", de andere zegt "Hoog Risico"), dan wordt de beslissing willekeurig. Het voelt als het gooien van een dobbelsteen om iemands toekomst te bepalen. Dit wordt Predictive Multiplicity genoemd.

2. De Oplossing: Eerst de data opschonen

Voordat ze betere formules konden bouwen, realiseerden de auteurs zich dat het "leerboek" dat de computer bestudeerde, rommelig was.

De oude manier: Het huidige systeem (RisCanvi) werd getraind op data die vaak verouderd of onjuist gelabeld was, omdat het moeilijk was om bij te houden of iemand na vrijlating daadwerkelijk een nieuw misdrijf had gepleegd (door juridische vertragingen). Het was alsof je probeerde te leren autorijden met een kaart uit 1990.
De nieuwe manier: De auteurs werkten samen met juridische experts om een computerprogramma te schrijven dat de complexe juridische regels strikt volgde om de data correct te labelen. Ze creëerden een enorme, schone dataset van 17.500 gevangenen. Dit is alsof je de computer een gloednieuwe, high-definition GPS-kaart geeft.

3. Betere Modellen Bouwen: De "Eerlijke Scorekaart"

Met behulp van deze schone data bouwden de auteurs nieuwe modellen. Ze wilden niet alleen dat de modellen accuraat waren; ze wilden ook dat ze eerlijk en logisch waren.

Logica: Ze zorgden ervoor dat het model gezond verstand volgde: als een gevangene een diploma haalt of een vak leert (rehabilitatie), moet hun risicoscore dalen. Als ze slechte gewoonten hebben, gaat deze omhoog.
Eerlijkheid: Ze zorgden ervoor dat het model specifieği groepen (zoals buitenlanders versus inwoners) niet onrechtvaardig meer strafte dan anderen.

4. De Grote Ontdekking: "Veel Paden, Dezelfde Bestemming"

Dit is het meest verrassende deel van het artikel. De auteurs verzamelden een grote groep van deze "even slimme, eerlijke" modellen (een "Rashomon Set") en vroegen: Zijn ze het allemaal oneens met elkaar?

Het antwoord: Nee.

De analogie: Stel je een groep van 100 deskundige navigatoren voor die proberen een schip door een mistige zee te leiden. Je zou verwachten dat ze allemaal een andere richting uit wijzen. In plaats daarvan ontdekten de auteurs dat in 91% van de gevallen alle 100 navigatoren het eens waren over exact dezelfde richting.
De crux: Ze waren het alleen oneens in de gevallen die zich precies op de rand van de "mist" bevonden (de beslissingsgrens). Voor het overgrote deel van de gevangenen waren de modellen het volledig eens.
De les: Alleen omdat er veel verschillende wiskundige formules zijn, betekent niet dat de voorspellingen chaotisch zijn. De "willekeur" is veel kleiner dan de theorie suggereert.

5. De Oplossing: De Regel van het "Voordeel van de Twijfel"

Dus, wat doe je met de kleine groep gevangenen waarbij de modellen wel van mening verschillen?
De auteurs stellen een eenvoudig beleid voor genaamd het "Lowest-Risk Policy" (of Favor Rei, een juridisch principe dat betekent "voordeel voor de verdachte").

Hoe het werkt: Als Model A zegt "Hoog Risico" en Model B zegt "Laag Risico", kies je simpelweg de Lage Risico score.
Waarom het werkt: Het fungeert als een vangnet. Het zorgt ervoor dat als er enige twijfel is, de gevangene het voordeel van de twijfel krijgt.
Het resultaat: Deze eenvoudige regel maakte het systeem feitelijk nauwkeuriger en eerlijker dan het gebruik van één enkel complex model of het middelen van alle modellen samen. Het verminderde het aantal mensen dat onterecht als hoog risico werd gelabeld, zonder dat gevaarlijke mensen erdoorheen glipten.

Samenvatting

Het artikel betoogt dat we niet bang hoeven te zijn voor het hebben van veel verschillende AI-modellen voor het voorspellen van criminaliteit.

Maak eerst je data schoon (stop met het gebruiken van rommelige, oude kaarten).
Bouw modellen die eerlijk en logisch zijn.
Besef dat zelfs met veel verschillende modellen, ze meestal hetzelfde antwoord geven.
Wanneer ze het oneens zijn, gebruik dan een eenvoudige regel: Kies de veiligste, laagste risico optie.

Deze aanpak verandert een verwarrende chaos van "willekeurige" voorspellingen in een betrouwbaar, eerlijk en logisch instrument voor het rechtssysteem.

Technische Samenvatting: Model-multipliciteit en Voorspellende Willekeur in Recidive-risicobeoordeling

Probleemstelling

Het artikel behandelt de uitdaging van voorspellende multipliciteit (vaak de Rashomon-effect genoemd) bij de beoordeling van recidiverisico in situaties met hoge inzet. In taken met ruisende voorspellingen bestaan vaak meerdere modellen met vergelijkbare nauwkeurigheid, maar deze kunnen uiteenlopende voorspellingen genereren voor dezelfde persoon. Dit creëert voorspellende willekeur, wat zorgen oproept over rechtvaardigheid en consistentie in de juridische besluitvorming.

Specifiek onderzoeken de auteurs het RisCanvi-systeem, een systeem voor besluitvormingsondersteuning dat sinds 2009 in Catalonië wordt gebruikt. Het huidige systeem kampt met verschillende kritieke problemen:

Datakwaliteit: Afhankelijkheid van verouderde trainingsdata en complexe, foutgevoelige handmatige labeling van recidive (het onderscheid tussen heropneming voor nieuwe misdrijven versus technische overtredingen of bestaande straffen).
Prestatieverschillen: Het huidige logistische regressiemodel vertoont een hoog aantal fout-negatieven en significante verschillen in foutpercentages tussen demografische groepen (bijv. onderdanen versus buitenlanders).
Gebrek aan Monotoniciteit: Het huidige systeem garandeert niet dat rehabilitatieve vooruitgang (dynamische kenmerken) leidt tot lagere risicoscores, een vereiste voor eerlijke rehabilitatieprikkels.
Willekeur: Zelfs als een "minder discriminerend" model wordt gevonden, impliceert het bestaan van een "Rashomon-set" (een verzameling modellen met vergelijkbare prestaties) dat verschillende geldige modellen verschillende risicoscores voor dezelfde gedetineerde kunnen opleveren, wat de betrouwbaarheid van de beoordeling ondermijnt.

Methodologie

1. Constructie van de Dataset

De auteurs hebben een rigoureus labelingsalgoritme ontwikkeld om een hoogwaardige dataset te construeren van 17.542 vrijlatingen van gedetineerden uit Catalaanse gevangenissen (2010–2019).

Labelingsproces: Ze vertaalden complexe juridische regels die "strafrechtelijke recidive" definiëren (veroordeling tot gevangenisstraf voor een nieuw misdrijf) naar een iteratief algoritme. Dit algoritme werd verfijnd door samenwerking met experts in strafoplegging totdat het overeenkwam met menselijke expertannotaties.
Kenmerken: De dataset bevat 43 kenmerken per vrijlating (20 statisch, bijv. leeftijd bij aanvang; 23 dynamisch, bijv. opleidingsniveau) van de laatste evaluatie van de gedetineerde.
Splitsing: Er werd een chronologische train-test splits gebruikt (Train: 2010–2018; Test: 2019) om temporele validiteit te waarborgen.

2. Optimalisatiekader (FairSLIM)

De auteurs stellen een tweestaps Mixed-Integer Linear Programming (MILP) kader voor:

Stap 1: SLIM met Monotoniciteit: Ze maken gebruik van de SLIM (Supersparse Linear Integer Model) formulering om een lineair integer score-systeem te leren. Cruciaal is dat ze monotoniciteitsbeperkingen afdwingen door de coëfficiënten van kenmerken te beperken tot niet-negatieve gehele getallen. Dit zorgt ervoor dat nadelige statische kenmerken het risico verhogen, terwijl positieve dynamische kenmerken (rehabilitatieve vooruitgang) het risico verlagen.
Stap 2: Verkenning van de Rashomon-set: Voortbouwend op het werk van Langlade et al. (2025), zoeken ze naar Minder Discriminante Modellen (LDM's) binnen de $\epsilon$ -Rashomon-set (modellen met een empirisch risico binnen $\epsilon$ $ϵ$ van het optimum).
- Ze generaliseren de zoektocht voor $m > 2$ demografische groepen.
- Ze minimaliseren de Equalized Odds schending ( $\Delta EO$ ), gedefinieerd als de maximale paarwijze discrepantie in False Positive Rates (FPR) en False Negative Rates (FNR) over de groepen.
- Ze optimaliseren dit door min/max FPR/FNR over groepen te volgen, waardoor de fairness-beperkingen worden gereduceerd van $O(m^2)$ naar $O(m)$ .

3. Analyse van Voorspellende Multipliciteit

Om multipliciteit te kwantificeren, breiden de auteurs het concept van zelfconsistentie (Cooper et al., 2024) uit naar de Rashomon-set:

Definitie: Voor een eindige verzameling modellen $P$ is zelfconsistentie $SCP(x)$ de waarschijnlijkheid dat twee willekeurig uit $P$ getrokken modellen het eens zijn over de voorspelling voor instantie $x$ .
Theoretische grens: Ze leiden een strakke ondergrens af voor de verwachte zelfconsistentie (Propositie 1) op basis van de gemiddelde 0-1 loss van de modelpool. Deze grens vertegenwoordigt het slechtst denkbare scenario voor overeenstemming.
Beleidsbeoordeling: Ze evalueren drie beleidsregels om multipliciteit op te lossen:
1. Ensembling: Het middelen van voorspellingen.
2. Willekeurige Selectie: Het kiezen van een willekeurig model voor elke instantie.
3. Lowest-Risk Policy (LRP): Het toekennen van de laagste risicoscore die door elk model in de pool wordt voorspeld (overeenkomstig met het favor rei-principe).

Belangrijkste Resultaten

1. Voorspellende Prestaties en Rechtvaardigheid

Superioriteit ten opzichte van Baselines: De voorgestelde modellen (SLIM en FairSLIM) presteren aanzienlijk beter dan het operationele RisCanvi-model. Terwijl RisCanvi een hoge nauwkeurigheid bereikt door de meerderheidsklasse te voorspellen, lijdt het aan een hoog aantal fout-negatieven (84,7%) en een slechte gebalanceerde nauwkeurigheid (56,2%).
Interpreteerbare Modellen: De nieuwe lineaire integer-modellen bereiken gebalanceerde nauwkeurigheden van ~70–73% en verminderen het aantal fout-negatieven met meer dan 65%.
Rechtvaardigheid: Het zoeken naar LDMs binnen 1% van het optimale risico ( $\epsilon \le 0,01$ ) vermindert de maximale foutpercentage-discrepantie ( $\Delta EO$ ) tussen subgroepen tot 5% op de testset. Deze prestatie is vergelijkbaar met of beter dan een complex CatBoost-baseline, terwijl de interpreteerbaarheid behouden blijft.

2. Voorspellende Multipliciteit en Zelfconsistentie

Hoge Overeenstemming: Ondanks het bestaan van veel structureel diverse modellen (met variërende coëfficiënten voor statische en dynamische kenmerken), is de geobserveerde zelfconsistentie 91%. Dit is aanzienlijk hoger dan de theoretische worst-case ondergrens van 0,53.
Locatie van Discrepantie: Voorspellende onenigheid is bijna uitsluitend geconcentreerd op instanties nabij de beslissingsgrens (low-margin instanties). Voor high-margin instanties zijn de modellen het volledig eens.
Structurele Diversiteit vs. Voorspellende Overeenstemming: De studie toont aan dat een hoge structurele diversiteit (verschillende coëfficiënten) niet noodzakelijkerwijs vertaalt naar ernstige voorspellende multipliciteit.

3. Effectiviteit van de Lowest-Risk Policy

De Lowest-Risk Policy (FairSLIM-LRP) wijst de laagste risicoscore toe van de pool van geldige modellen aan elke gedetineerde.
Prestaties: Deze beleidsregel behaalt de hoogste gebalanceerde nauwkeurigheid (71,2%) van alle geteste resolutiemechanismen (inclusclusief ensembling en willekeurige selectie) terwijl de foutpercentage-pariteit vergelijkbaar blijft.
Implicatie: Door de meest gunstige uitkomst te selecteren uit de pool van geldige modellen, vermindert het systeem de willekeur zonder de voorspellende bruikbaarheid of rechtvaardigheid op te offeren.

Betekenis en Claims

Het artikel claimt verschillende bijdragen aan het veld van algoritmische rechtvaardigheid en risicobeoordeling:

Generalisatie van Fairness-beperkingen: Het generaliseert de zoektocht naar minder discriminerende modellen in de Rashomon-set naar $m > 2$ subgroepen met slechts $O(m)$ aanvullende beperkingen, wat het computationeel haalbaar maakt voor complexe demografische partities.
Theoretische Grens op Willekeur: Het biedt een strakke ondergrens voor de verwachte zelfconsistentie voor elke eindige verzameling binaire classificatoren, wat een theoretisch ijkpunt vormt om empirische overeenstemming te vergelijken.
Real-World Case Study: Het presenteert de eerste real-world studie van voorspellende multipliciteit in recidive-risicobeoordeling, waarbij de stap wordt gezet van theoretische simulaties naar een ingezet systeem (RisCanvi).
Beleidsaanbeveling: Het stelt een Lowest-Risk Policy voor en valideert deze als een effectief mechanisme om voorspellende willekeur op te lossen. Deze benadering sluit aan bij het juridische principe van favor rei (in dubio, in het voordeel van de verdachte) en het anti-subordinatieprincipe, waarbij systematische vooroordelen worden aangepakt door actief de minst punitieve geldige voorspelling te kiezen.
Impact van Datakwaliteit: Het werk benadrukt hoe het automatiseren van de labeling van resultaten na vrijlating met behulp van juridische regels een dataset oplevert die 17 keer groter is dan de huidige trainingsset, wat de modelprestaties en rechtvaardigheid materieel verbetert.

De auteurs concluderen dat hoewel model-multipliciteit een theoretische zorg is, de resulterende willekeur in de praktijk vaak beperkt is tot een klein deel van de gevallen nabij de beslissingsgrens. Daarom kunnen eenvoudige, principiële beleidsregels zoals de Lowest-Risk Policy de willekeur effectief mitigeren terwijl de voordelen van het verkennen van een diverse set eerlijke modellen behouden blijven.