🤖 AI

Causal Algorithmic Recourse: Foundations and Methods

Dit artikel introduceert een causaal raamwerk voor algoritmische recourse dat recourse modelleert als een proces over pre- en post-interventie uitkomsten met gedeeltelijke stabiliteit, en zowel op copula gebaseerde als distributie-vrije methoden biedt om recourse-effecten af te leiden uit observationele of gekoppelde recourse-data.

Oorspronkelijke auteurs: Drago Plecko, Collin Wang, Elias Bareinboim

Gepubliceerd 2026-05-13

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Drago Plecko, Collin Wang, Elias Bareinboim

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een lening, een baan of een toelating tot een universiteit aanvraagt. Je krijgt een "Nee". Je vraagt het systeem: "Wat kan ik doen om de volgende keer een 'Ja' te krijgen?" Dit heet Algorithmische Recours.

De meeste huidige AI-systemen geven je een simpel antwoord: "Als je meer geld spaart, word je goedgekeurd." Ze behandelen dit als een eenmalig wiskundig probleem, ervan uitgaande dat als je vandaag je spaargeld verandert, je toekomstige ik precies dezelfde persoon zal zijn, alleen met meer geld.

Het Probleem: Je bent geen statische robot
De auteurs van dit paper betogen dat het echte leven niet zo werkt. Mensen veranderen. Als je volgende maand een lening probeert te krijgen, kunnen je stressniveaus, je slaap en je energie anders zijn dan vandaag. Zelfs als je precies hetzelfde doet (geld sparen), kan het resultaat anders zijn omdat jij een beetje anders bent.

Denk eraan als het maken van een toets.

De oude manier: Het systeem zegt: "Als je 2 uur studeert, slaag je." Het gaat ervan uit dat je hersenen volgende week precies hetzelfde werken als nu.
De nieuwe manier (dit paper): Het systeem beseft: "Als je volgende week 2 uur studeert, kun je misschien slagen, maar kun je ook moe of gestrest zijn. We moeten rekening houden met die onzekerheid."

Het kernidee: De "Vaste" versus "Wispelturige" delen van jou

De auteurs stellen een nieuwe manier voor om dit te modelleren met behulp van een concept dat ze Post-Recours Stabiliteit noemen. Ze verdelen je persoonlijke eigenschappen in twee bakken:

De Vaste Bak (Je Kern): Dit zijn dingen die niet makkelijk veranderen, zoals je natuurlijke intelligentie, je genetica of je fundamentele werkethiek. Laten we dit je "Kernik" noemen.
De Wispelturige Bak (Je Omstandigheden): Dit zijn dingen die de hele tijd veranderen, zoals hoeveel slaap je gisteravond hebt gehad, hoe gestrest je bent, of het weer. Laten we dit je "Dagelijkse Stemming" noemen.

Het paper betoogt dat wanneer je probeert een slechte beslissing ongedaan te maken, je "Kernik" hetzelfde blijft, maar je "Dagelijkse Stemming" wordt hergetrokken (opnieuw gegooid als dobbelstenen).

De Drie Hulpmiddelen (Algoritmen) die ze hebben gebouwd

Het paper biedt een toolkit om de kansen op succes te bepalen, afhankelijk van welke data we hebben.

1. Het "Buikgevoel"-hulpmiddel (Algoritme 1)

Scenario: Je hebt alleen data over mensen voordat ze probeerden hun probleem op te lossen (Observatie-data). Je weet niet wat er gebeurde toen ze het opnieuw probeerden.
De Metafoor: Stel je voor dat je een weerman bent die alleen data van vorig jaar heeft. Je wilt voorspellen of het morgen gaat regenen als je een paraplu opent. Je kent de exacte connectie niet tussen "een paraplu openen" en "regenen", maar je weet dat ze gerelateerd zijn.
Hoe het werkt: De auteurs gebruiken een statistisch hulpmiddel genaamd een Copula (denk eraan als een "lijm" die twee verdelingen aan elkaar plakt). Ze gaan uit van een bepaald niveau van connectie tussen je "Kernik" vandaag en je "Kernik" morgen. Ze voeren een gevoeligheidsanalyse uit: "Als de connectie sterk is, zijn dit de kansen. Als de connectie zwak is, zijn dit de kansen." Het geeft je een reeks mogelijkheden in plaats van één gok.

2. Het "De Pudding is het Bewijs"-hulpmiddel (Algoritme 2)

Scenario: Je hebt data over mensen die hun probleem daadwerkelijk probeerden op te lossen en wat er daarna gebeurde (Recours-data).
De Metafoor: Nu heb je een verslag van mensen die hebben gestudeerd en de toets opnieuw hebben gemaakt. Je kunt precies zien hoe hun scores veranderden.
Hoe het werkt:

Calibratie: Het systeem kijkt naar de "voor" en "na" scores om precies te bepalen hoeveel je "Dagelijkse Stemming" verandert. Het berekent de sterkte van de connectie tussen je verleden en je toekomst.
De Stress-test: Het voert een test uit om te zien of de "lijm" (het Copula-model) daadwerkelijk bij de data past. Als de data vreemd oogt en niet bij het model past, zegt het systeem: "Hé, onze aanname was verkeerd. Vertrouw deze specifieke formule niet."

3. Het "Geen Aannames"-hulpmiddel (Algoritme 3)

Scenario: Je hebt data over mensen die het opnieuw probeerden, maar de "lijm"-model (de Copula) is volledig kapot. De connectie tussen je verleden en je toekomst is te rommelig om te modelleren met standaard wiskunde.
De Metafoor: Stel je voor dat het weer zo chaotisch is dat "een paraplu openen" helemaal geen voorspelbare relatie heeft met "regenen". De standaardformules falen.
Hoe het werkt: In plaats van te proberen de relatie te raden, gebruikt het systeem een slimme twee-staps leertactiek. Het kijkt naar de "voor"-data om je basislijn te begrijpen, en gebruikt vervolgens de "na"-data om de nieuwe regels direct te leren. Het zegt in feite: "We kunnen de toekomst niet perfect voorspellen, maar door te kijken naar de residuals (de restjes) van je prestaties in het verleden, kunnen we een betere gok maken dan als we je geschiedenis volledig negeerden."

Waarom dit belangrijk is

Het paper beweert dat door te erkennen dat mensen veranderen (de "Wispelturige Bak"), we veel eerlijker en accurater advies kunnen geven.

Oud Advies: "Doe X, en je krijgt zeker een Ja." (Vaak verkeerd omdat het het chaos van het leven negeert).
Nieuw Advies: "Als je X doet, is er een 70% kans dat je een Ja krijgt, ervan uitgaande dat je stressniveaus gemiddeld blijven. Als je extra gestrest bent, daalt de kans naar 40%."

De auteurs hebben deze ideeën getest op echte kredietdata (HELOC) en nep-data die ze hebben gemaakt om het echte leven na te bootsen. Ze hebben aangetoond dat hun methoden het verschil kunnen maken tussen een stabiele situatie en een chaotische, en dat ze kunnen leren van mensen die daadwerkelijk probeerden hun uitkomsten te veranderen, in plaats van alleen te gokken op basis van statische data.

Kortom: Dit paper bouwt een brug tussen "wat jou gisteren overkwam" en "wat jou morgen kan overkomen", erkendend dat terwijl je kernik hetzelfde blijft, de wereld om je heen altijd verschuift.

Technische Samenvatting: Causale Algorithmische Recourse: Fundamenten en Methoden

Probleemdefinitie en Motivatie

Het artikel adresseert de uitdaging van algorithmische recourse, die betrekking heeft op het verstrekken van uitvoerbare aanbevelingen aan individuen om negatieve beslissingen van geautomatiseerde systemen ongedaan te maken (bijvoorbeeld afwijzingen van leningen of medische behandelingen). Hoewel bestaande literatuur contrafactuele verklaringen biedt, betogen de auteurs dat standaardbenaderingen vaak falen in het vastleggen van de inherente onzekerheid van recourse in de echte wereld.

Specifiek behandelen traditionele methoden recourse-uitkomsten als exacte contrafacten van een vaste eenheid, ervan uitgaande dat latente variabelen (bijvoorbeeld vaardigheid, stress, slaap) identiek blijven voor en na een interventie. De auteurs stellen dat recourse in werkelijkheid herhaalde beslissingen betreft voor hetzelfde individu onder potentieel verschillende latente omstandigheden. Een student die een examen herkansing na het bijwonen van spreekuren, kan bijvoorbeeld dezelfde onderliggende vaardigheid hebben maar verschillende stress- of slaappieken. Dit introduceert een structurele onzekerheid waarbij de latente variabelen voor en na de interventie ( $u_T$ en $u^*_T$ ) gerelateerd zijn maar niet identiek.

Bovendien benadrukt het artikel dat standaard formuleringen voor causale recourse vaak vertrouwen op de aanname van Onafhankelijk Manipuleerbare Kenmerken (IMF), die causale afhankelijkheden tussen covariaten negeert. De auteurs demonstreren aan de hand van voorbeelden dat het negeren van deze afhankelijkheden (bijvoorbeeld inkomen dat uitgaven beïnvloedt) kan leiden tot suboptimale of onuitvoerbare aanbevelingen. Tot slot merken zij op dat het afleiden van recourse-effecten doorgaans redeneren vereist over gezamenlijke contrafactuele verdelingen, die over het algemeen niet identificeerbaar zijn vanuit observationele data alleen zonder sterke aannames.

Methodologie en Kader

De auteurs stellen een causaal kader gebaseerd op Structurele Causale Modellen (SCM's) voor dat expliciet het herschalen van latente variabelen tijdens het recourse-proces modelleert.

1. Recourse SCM en Post-Recourse Stabiliteit (PRS)

De kern van de methodologie is de Recourse SCM, gedefinieerd als een tuple $\langle F, P(u), R=r, P(u^*|u) \rangle$ , waarbij $P(u^*|u)$ de verdeling van latente variabelen voorstelt na een recourse-actie $do(R=r)$.

Latente Decompositie: Eenheden worden ontleed in vaste ( $u^{(f)}$ ) en variabele ( $u^{(v)}$ ) componenten. De vaste component (bijvoorbeeld intrinsieke vaardigheid) blijft invariant, terwijl de variabele component (bijvoorbeeld stress) kan worden herschaald.
Post-Recourse Stabiliteit (PRS): De auteurs definiëren PRS als een voorwaarde waarbij de verdeling van latente variabelen voor niet-nakomelingen van de recourse-actie onveranderd blijft, en voor nakomelingen het vaste deel invariant is terwijl het variabele deel wordt herschaald vanuit dezelfde conditionele verdeling gegeven het vaste deel.
Implicatie: Onder PRS is de marginale verdeling van post-recourse variabelen gegeven hun ouders identiek aan de observationele verdeling (Marginale Stabiliteit). Dit maakt inferentie mogelijk op basis van observationele data alleen.

2. Inferentiestrategieën

Het artikel ontwikkelt drie distincte algoritmen gebaseerd op data-beschikbaarheid en de geldigheid van PRS:

Algoritme 1 (Observationele Data + PRS):
- Gaat ervan uit dat PRS geldt en dat alleen observationele data beschikbaar is.
- Gebruikt de copula van Frank om de koppeling tussen pre-recourse quantielen ( $q_i$ ) en post-recourse quantielen ( $q^*_i$ ) te modelleren.
- Aangezien de copula-parameter $\tau$ (Kendall's $\tau$ ) niet identificeerbaar is vanuit observationele data alleen, voert het algoritme een gevoeligheidsanalyse uit door $\tau$ te variëren om een reeks mogelijke recourse-uitkomsten te genereren.
Algoritme 2 (Observationeel + Recourse Data + PRS):
- Gaat ervan uit dat PRS geldt en dat gepaarde data (pre- en post-recourse voor dezelfde individuen) beschikbaar is.
- Gebruikt de gepaarde data om de copula-parameter $\tau$ af te leiden via maximum-likelihood schatting.
- Omvat een goodness-of-fit test (met behulp van een bootstrap-procedure en de Cramer-von Mises-statistiek) om te verifiëren of de copula van Frank een geschikt model is. Dit adresseert de selectiebias die inherent is aan recourse-data (alleen beschikbaar voor individuen die aanvankelijk faalden).
Algoritme 3 (Observationeel + Recourse Data + Geen PRS):
- Adresseert het geval waarin PRS niet geldt (marginale stabiliteit wordt geschonden).
- In plaats van te vertrouwen op een specifieke copula, leert het een niet-parametrische quantiel-functie $Q(v^*_i | v_i, pa_i, pa^*_i)$ direct van de gecombineerde observationele en recourse-data.
- Deze benadering benut de correlatie tussen pre-recourse residuen en post-recourse ruis om de voorspellingsnauwkeurigheid te verbeteren, wat theoretisch de verwachte gemiddelde kwadratische voorspellingsfout (EMSPE) verlaagt in vergelijking met standaard regressie op recourse-ouders alleen.

Belangrijkste Bijdragen

Causale Formulering van Recourse: Het artikel introduceert een formulering van algorithmische recourse die rekening houdt met het herschalen van latente variabelen, en zo voorbijgaat aan de aanname van vaste eenheden. Het definieert Post-Recourse Stabiliteit (PRS) als een kritieke voorwaarde voor inferentie.
Theoretische Garanties:
- Stelling 1: Bewijst dat PRS marginale stabiliteit impliceert, wat de identificatie van recourse-effecten vanuit observationele data mogelijk maakt.
- Stelling 2: Biedt theoretische garanties voor de "geaugmenteerde" regressiebenadering (Alg. 3) in lineaire Gaussische settingen, en toont aan dat deze het voorspellingsrisico verlaagt ten opzichte van standaardbenaderingen wanneer pre- en post-recourse ruis-termen gecorreleerd zijn.
Algoritmische Suite:
- Ontwikkeling van Alg. 1 voor gevoeligheidsanalyse met behulp van observationele data.
- Ontwikkeling van Alg. 2 voor het leren van copula-parameters en het testen van modelfit met recourse-data.
- Ontwikkeling van Alg. 3 voor distributievrije inferentie wanneer stabiliteitsaannames falen.
Concept Recourse Data: De auteurs definiëren formeel recourse data (gepaarde pre- en post-interventie steekproeven voor hetzelfde individu) en het bijbehorende leernprobleem, en onderscheiden dit van standaard combinaties van observationele of experimentele data.

Experimentele Resultaten

De auteurs valideren hun methoden met behulp van de HELOC (Home Equity Line of Credit) dataset en een semi-synthetische variant:

Gevoeligheidsanalyse (Alg. 1): Toegepast op echte HELOC-data, demonstreerde het algoritme hoe het variëren van de copula-parameter $\tau$ de spreiding van voorspelde recourse-uitkomsten beïnvloedt, wat de onzekerheid illustreert die inherent is bij afwezigheid van recourse-data.
Goodness-of-Fit (Alg. 2): Met behulp van semi-synthetische data toonden de auteurs aan dat de voorgestelde bootstrap-test correct identificeert wanneer de copula van Frank geldig is (uniforme p-waarde verdeling) en wanneer deze wordt geschonden (scheve p-waarden richting 0).
Copula-vrij Leren (Alg. 3): In scenario's waarin PRS werd geschonden (SeS-HELOC B), presteerde Alg. 3 beter dan zowel de standaard regressiebenadering als de copula-gebaseerde aanpak. De Kolmogorov-Smirnov-statistieken toonden aan dat de voorspellingen van Alg. 3 dichter bij de ware onderliggende verdeling lagen, wat empirisch het theoretische voordeel bevestigt van het benutten van pre-recourse informatie zelfs wanneer marginale stabiliteit niet geldt.

Betekenis en Claims

Het artikel claimt de eerste te zijn die een inferentieprobleem formaliseert dat observationele en experimentele data combineert die corresponderen met hetzelfde individu in de context van algorithmische recourse. Door voorbij te gaan aan de aanname van vaste contrafactuele eenheden, biedt het kader een realistischer model van hoe individuen reageren op interventies in de loop van de tijd.

De auteurs benadrukken dat hun werk de kloof overbrugt tussen theoretische causale inferentie en praktische recourse-toepassingen. Zij betogen dat terwijl standaard causale recourse-methoden vaak volledige structurele kennis of rigide aannames vereisen (zoals IMF), hun kader een flexibele hiërarchie van methoden biedt:

Gevoeligheidsanalyse wanneer alleen observationele data beschikbaar is.
Parameterinferentie en modeltesten wanneer recourse-data beschikbaar is.
Distributievrij leren wanneer stabiliteitsaannames worden geschonden.

De betekenis ligt in het bieden van een rigoureuze, causale basis voor het begrijpen van de variabiliteit in recourse-uitkomsten en het aanbieden van praktische algoritmen die zich aanpassen aan de specifieke data-beschikbaarheid en stabiliteitscondities van een gegeven toepassing.