🤖 machine learning

Do Fair Models Reason Fairly? Counterfactual Explanation Consistency for Procedural Fairness in Credit Decisions

Dit artikel introduceert Counterfactual Explanation Consistency (CEC), een raamwerk dat is ontworpen om "verborgen procedurele bias" in kredietbeslissingsmodellen op te sporen en te verminderen door ervoor te zorgen dat individuen met vergelijkbare uitkomsten consistente redenering ontvangen, een kritieke rechtvaardigheidsdimensie die door standaard op uitkomsten gebaseerde metrics wordt over het hoofd gezien.

Oorspronkelijke auteurs: Gideon Popoola, John Sheppard

Gepubliceerd 2026-05-14

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Gideon Popoola, John Sheppard

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een lening aanvraagt. Je hebt een uitstekende kredietscore, een stabiele baan en voldoende geld om het terug te betalen. Je krijgt goedkeuring. Stel je nu voor dat je buurman een aanvraag indient met exact hetzelfde financiële profiel, maar dat hij tot een andere demografische groep behoort (misschien een ander ras of geslacht). Ook zij krijgt goedkeuring.

Op het eerste gezicht lijkt alles eerlijk. Jullie allebei hebben hetzelfde resultaat. Maar wat als het computersysteem van de bank volledig verschillende redenen gebruikte om tegen jou "ja" te zeggen dan tegen je buurman?

Voor jou: De computer keek naar je kredietscore en inkomen.
Voor je buurman: De computer negeerde hun kredietscore en keek in plaats daarvan sterk naar hun werkgeschiedenis en onderpand.

Dit is het kernprobleem dat het artikel aanpakt. De auteurs noemen dit "Verborgen Procedurele Bias". Het is als twee rechters die in een rechtszaak hetzelfde vonnis vellen, maar waarbij de ene rechter zijn beslissing baseerde op het alibi van de verdachte, terwijl de andere rechter zijn beslissing volledig baseerde op hun kleding. Het resultaat is hetzelfde, maar het proces was oneerlijk.

Het Probleem: De "Uitkomst"-Valstrik

De meeste huidige eerlijkheidstools voor AI zijn als een leraar die alleen het eindcijfer van het examen controleert. Als groep A en groep B beide een gemiddelde score van 80% halen, zegt de leraar: "Geweldig, het systeem is eerlijk!"

De auteurs betogen dat dit een valstrik is. Je kunt perfecte examenscores (uitkomsten) hebben terwijl de leraar volledig verschillende beoordelingsrubrieken gebruikte voor verschillende studenten. In de wereld van lenen is dit illegaal onder wetten zoals de Equal Credit Opportunity Act (ECOA), die stelt dat je geen verschillende regels mag gebruiken voor verschillende groepen, zelfs als de uiteindelijke goedkeuringspercentages er hetzelfde uitzien.

De Oplossing: Het "CEC"-Kader

De auteurs stellen een nieuw hulpmiddel voor genaamd Counterfactual Explanation Consistency (CEC). Denk hierbij aan een "Realiteitscheck" voor de AI.

Zo werkt het, met een eenvoudige analogie:

De "Wat als"-Ruil (Counterfactuelen):
Stel je hebt een leningaanvraag. De AI zegt "Ja" vanwege je hoge inkomen. Het CEC-hulpmiddel neemt je aanvraag en vraagt: "Wat als deze exacte persoon, met exact hetzelfde inkomen en dezelfde kredietscore, tot een andere demografische groep behoorde?"

In plaats van alleen de naam of het ras op het formulier te veranderen (wat nep, onmogelijke data creëert), vindt het hulpmiddel een echt persoon in de database die financieel precies op jou lijkt maar tot de andere groep behoort. Het koppelt jou aan deze "tweeling" uit de andere groep.
De "Redenering"-Audit (Consistentie van Uitleg):
Vervolgens vraagt het hulpmiddel de AI om uit te leggen waarom het jullie allebei heeft goedgekeurd.
- Heeft het jullie inkomen en kredietscore op dezelfde manier gewogen?
- Of besloot het plotseling dat voor de tweede persoon, werkgeschiedenis het enige is dat telt?
Als de AI verschillende "gewichten" of redenen gebruikt voor de twee financiële tweelingen, slaat het CEC-hulpmiddel alarm. Het meet hoe sterk de redenering "zwaait" tussen de twee groepen.
De Oplossing (Trainen van de AI):
De auteurs hebben niet alleen een detector gebouwd; ze hebben een leraar gebouwd. Ze hebben een nieuwe regel toegevoegd aan het trainingsproces van de AI.
- Oude Regel: "Zorg dat de goedkeuringspercentages gelijk zijn."
- Nieuwe Regel: "Zorg dat de goedkeuringspercentages gelijk zijn EN zorg dat je exact dezelfde logica gebruikt om daar te komen."
De AI wordt nu gestraft (via een wiskundige "verliesfunctie") als het probeert verschillende redeneringen te gebruiken voor verschillende groepen, zelfs als de uiteindelijke beslissing hetzelfde is.

Wat Ze Vonden

De auteurs testten dit op real-world data (zoals Duitse kredietregistraties, Amerikaanse inkomensdata en hypotheekregistraties) en synthetische data.

De Schok: Ze ontdekten dat veel bestaande "eerlijke" AI-modellen deze bias eigenlijk verborgen hielden. Ze konden alle standaard eerlijkheidstests doorstaan (gelijke goedkeuringspercentages), maar gebruikten toch verschillende redeneringen voor verschillende mensen. In hun studie vielen tot 90% van de aanvragers in sommige modellen in deze "Verborgen Bias"-valstrik.
Het Succes: Toen ze hun nieuwe CEC-methode gebruikten, stopte de AI met het gebruik van verschillende regels. Het begon financiële tweelingen op dezelfde manier te behandelen, ongeacht hun achtergrond.
De Kosten: Het beste deel? De AI werd niet "dommer". Het voorspelde nog steeds nauwkeurig wie de lening zou terugbetalen en verloor niet veel aan algehele prestaties. Het werd gewoon eerlijker in hoe het dacht.

Het Grote Plaatje

Het artikel concludeert dat eerlijkheid niet alleen gaat over het resultaat; het gaat over het recept.

Als je voor twee mensen een taart bakt, is het niet genoeg dat ze allebei een stuk van dezelfde grootte krijgen. Als je voor de ene persoon een geheim ingrediënt gebruikte en voor de ander een ander, is het proces oneerlijk. Het CEC-kader zorgt ervoor dat de AI voor iedereen hetzelfde "recept" (redenering) gebruikt, zodat er in de ogen van de wet en de ethiek "gelijke gevallen gelijk worden behandeld".

Technische Samenvatting: Consistentie van Contradictorische Uitleg voor Procedurele Rechtvaardigheid bij Kredietbeslissingen

Probleemstelling

Huidig onderzoek naar algoritmische rechtvaardigheid in sociaal gevoelige domeinen, zoals kredietverstrekking, richt zich voornamelijk op uitkomstrechtvaardigheid (bijvoorbeeld demografische pariteit, equalized odds). Deze metrieken zorgen ervoor dat voorspellende uitkomsten statistisch gebalanceerd zijn over beschermde groepen (bijvoorbeeld ras, geslacht). De auteurs betogen echter dat het voldoen aan uitkomstrechtvaardigheid niet garandeert dat het model hetzelfde redeneerproces toepast voor individuen uit verschillende groepen.

Deze kloof creëert een "verborgen procedurele bias" waarbij een model identieke uitkomsten kan produceren voor vergelijkbare aanvragers uit verschillende demografische groepen, maar steunt op fundamenteel verschillende feature-toeschrijvingen om tot die conclusies te komen. Bijvoorbeeld, een model kan een mannelijke aanvrager voornamelijk baseren op een kredietscore goedkeuren, terwijl het een vrouwelijke aanvrager met een vergelijkbaar profiel goedkeurt op basis van werkgeschiedenis. Onder juridische kaders zoals de Equal Credit Opportunity Act (ECOA) vormt dit een dispariteit in behandeling, maar blijft dit onzichtbaar voor standaard op uitkomsten gebaseerde rechtvaardigheidsmetrieken.

De auteurs formaliseren dit fenomeen met behulp van een 2×2-taxonomie van rechtvaardigheidsregimes:

Regime A (Volledig Rechtvaardig): Dezelfde voorspelling, dezelfde redenering.
Regime B (Verborgen Bias): Dezelfde voorspelling, verschillende redenering (het kritieke blinde punt).
Regime C (Uitkomst Onrechtvaardig): Verschillende voorspelling, dezelfde redenering.
Regime D (Ernstig Onrechtvaardig): Verschillende voorspelling, verschillende redenering.

Bestaande methoden richten zich voornamelijk op Regimes C en D, waardoor Regime B onopgemerkt blijft.

Methodologie: Consistentie van Contradictorische Uitleg (CEC)

Om Regime B op te sporen en te mitigeren, stellen de auteurs Counterfactual Explanation Consistency (CEC) voor, een kader dat feature-toeschrijvingen tussen individuen en hun contradictorische tegenhangers aligneert.

1. Contradictorische Generatie via Label-Gestratificeerde Naaste-Buur Matching

In plaats van naïeve contradictorische gevallen te gebruiken (het omkeren van het beschermde attribuut terwijl alle andere kenmerken constant worden gehouden, wat vaak statistisch onmogelijke individuen oplevert), stellen de auteurs een Label-Gestratificeerde Naaste-Buur (NN)-benadering voor.

Mechanisme: Voor een feitelijk individu $(x, y, a)$ zoekt het systeem in de trainingsdata naar een individu $\tilde{x}$ uit de tegenovergestelde groep ( $1-a$ ) dat dezelfde ware label ( $y$ ) deelt en de meest vergelijkbare financiële kenmerken ( $F$ ) heeft.
Financiële Kenmerken ( $F$ ): Gedefinieerd als op verdiensten gebaseerde, wettelijk toelaatbare kenmerken (bijvoorbeeld inkomen, kredietscore) die geen demografische proxies zijn.
Redenering: Dit zorgt ervoor dat het feitelijke en het contradictorische geval identieke grondwaarheid hebben qua kredietwaardigheid. Elk verschil in de redenering van het model is dus toe te schrijven aan groepsafhankelijke bias in plaats van legitieme risicoverschillen. Deze methode omzeilt de noodzaak van structurele causale modellen (SCM's).

2. Principe van de Consistente Basislijn

Het kader maakt gebruik van Integrated Gradients (IG) om feature-toeschrijvingen te meten. Een cruciale bijdrage is het Principe van de Consistente Basislijn.

Probleem: Het vergelijken van IG-vectoren met groepspecifieke basislijnen (bijvoorbeeld het gemiddelde van Groep 0 versus het gemiddelde van Groep 1) introduceert een verstorende variabele. Verschillen in attributies kunnen simpelweg voortkomen uit de verschillende referentiepunten (basislijnen) in plaats van discriminerende redenering.
Oplossing: Zowel het feitelijke $x$ als het contradictorische $\tilde{x}$ moeten worden geëvalueerd tegenover dezelfde basislijn (specifiek, het gemiddelde van de label-groep van het feitelijke geval).
Theoretische Garantie: De auteurs bewijzen dat het gebruik van een consistente basislijn het verschil in attributie isoleert tot het verschil in invoer en de gradiënten van het model, waardoor spuriële termen veroorzaakt door verschuivingen in groepsdistributie worden verwijderd.

3. De CEC-metriek en Trainingsverlies

Metriek: De CEC-score meet de genormaliseerde $L_2$ -afstand tussen de attributievectoren van $x$ en $\tilde{x}$ bij gebruik van de consistente basislijn. Een score van 0 geeft identieke redenering aan; 1 geeft maximaal tegengestelde redenering aan.
Trainingsdoel: De auteurs introduceren een multi-objectieve verliesfunctie die gezamenlijk optimaliseert voor:
1. Voorspellingsnauwkeurigheid (Binary Cross-Entropy).
2. Uitkomstrechtvaardigheid (Equalized Odds-beperking).
3. Procedurele Rechtvaardigheid (CEC-verlies): Een differentieerbare regularisator die afwijkingen in attributievectoren tussen feitelijke en contradictorische paren bestraft.

Belangrijkste Bijdragen

Formalisatie van Verborgen Procedurele Bias: Het artikel definieert en categoriseert "Regime B" (dezelfde uitkomst, verschillende redenering) als een kritieke faalmodus die onzichtbaar is voor standaard rechtvaardigheidsmetrieken.
Contradictorische Generatie via Naaste-Buur: Een praktische methode om realistische contradictorische gevallen te genereren voor rechtvaardigheidsaudits zonder causale grafieken te vereisen, in plaats daarvan vertrouwend op matching van financieel verdienste.
Principe van de Consistente Basislijn: Een theoretische en praktische correctie voor vergelijkingen van Integrated Gradients die voorkomt dat door basislijn veroorzaakte artefacten worden misgeïnterpreteerd als bias.
CEC-kader: Een differentieerbare trainingsverliesfunctie die uitlegconsistentie afdwingt naast nauwkeurigheid en uitkomstrechtvaardigheid, en aantoont dat procedurele rechtvaardigheid kan worden bereikt met bescheiden kosten voor bruikbaarheid.

Experimentele Resultaten

De auteurs evalueerden CEC op vier datasets: Synthetische data, German Credit, Adult Income en HMDA hypotheekdata. Ze vergeleken CEC met zes baselines (Onbeperkt, Disparate Impact Remover, Hardt Post-Processing, Agarwal Reductions, Adversarial Debiasing, Lagrangian Fair Learning).

Detectie van Verborgen Bias: Alle baseline-methoden die concurrerende uitkomstrechtvaardigheid bereikten (lage Equalized Odds-gaten), vertoonden substantiële verborgen procedurele bias (hoge CEC-scores). Bijvoorbeeld, op de German Credit-dataset plaatsten baseline-methoden ongeveer 90% van de samples in Regime B, terwijl het CEC-model dit terugbracht tot ongeveer 17%.
Mitigatie: Het met CEC getrainde model behaalde consistent de laagste CEC-scores en het hoogste aandeel Regime A (volledig rechtvaardig) samples over alle datasets.
Bruikbaarheidswisselwerking: Het CEC-model behield concurrerende voorspellende bruikbaarheid (F1 en AUC) en uitkomstrechtvaardigheid, met slechts bescheiden verminderingen in prestaties vergeleken met onbeperkte baselines.
Ablatiestudies:
- Het alleen toevoegen van Equalized Odds (EO)-beperkingen verminderde Regime B niet; in sommige gevallen nam het dit zelfs licht toe.
- Het alleen toevoegen van CEC-regularisatie verminderde Regime B aanzienlijk en dreef als neveneffect vaak het EO-gat naar nul.
- Het volledige multi-objectieve model behaalde de beste balans, wat bevestigt dat procedurele rechtvaardigheid en uitkomstrechtvaardigheid orthogonale doelen zijn die expliciete gezamenlijke optimalisatie vereisen.

Betekenis en Claims

Het artikel claimt dat uitkomstrechtvaardigheid en procedurele rechtvaardigheid orthogonaal zijn. Het optimaliseren voor het ene garandeert niet het andere; in feite kunnen standaard op uitkomsten gerichte interventies onbedoeld verborgen procedurele bias (Regime B) maskeren of verergeren.

De betekenis van dit werk ligt in:

Regelgevingsconformiteit: Het adresseert een specifiek gat in juridische conformiteit (bijvoorbeeld ECOA), waarbij kredietverstrekkers worden verboden verschillende onderwriting-standaarden te gebruiken voor verschillende groepen, zelfs als de uiteindelijke goedkeuringspercentages gelijk zijn.
Auditbaarheid: Het biedt een kwantitatief hulpmiddel (CEC-score en regimeverdeling) om niet alleen te auditeren wat een model besluit, maar hoe het redeneert, en identificeert specifieke aanvragers die onderhevig zijn aan inconsistente behandeling.
Methodologische Verschuiving: Het demonstreert dat procedurele rechtvaardigheid kan worden geïntegreerd in de trainingspijplijn via differentieerbare verliezen, en gaat verder dan post-hoc uitleg naar proactieve mitigatie van verborgen bias.

De auteurs concluderen dat hoewel uitkomstrechtvaardigheid noodzakelijk is, het onvoldoende is om eerlijke geautomatiseerde besluitvorming te waarborgen in hoog-risico domeinen zoals kredietverstrekking. Het CEC-kader biedt een praktische weg om modelredenering af te stemmen op juridische en ethische standaarden van procedurele rechtvaardigheid.