💻 computer science

Actionable Recourse in Competitive Environments: A Dynamic Game of Endogenous Selection

Dit onderzoek toont aan dat in competitieve omgevingen, waar individuen strategisch hun kenmerken aanpassen om een gunstige AI-beslissing te krijgen, de endogene selectie leidt tot een gesloten dynamisch systeem dat initiële ongelijkheden versterkt en persistente prestatiekloven creëert.

Oorspronkelijke auteurs: Ya-Ting Yang, Quanyan Zhu

Gepubliceerd 2026-03-19

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Ya-Ting Yang, Quanyan Zhu

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je deelneemt aan een grote, prestigieuze wedstrijd, zoals het toelaten tot een topuniversiteit of het krijgen van een droombaan. Er zijn maar een paar plekken beschikbaar, en iedereen moet het beste van zichzelf geven.

Dit artikel van Yang en Zhu onderzoekt wat er gebeurt als iedereen in zo'n wedstrijd advies krijgt over hoe ze kunnen winnen. Het klinkt als een goed idee, toch? Maar de auteurs tonen aan dat dit systeem op de lange termijn juist kan leiden tot onrechtvaardigheid en een soort "race naar de top" die niemand echt wint.

Hier is de uitleg in eenvoudige taal, met een paar creatieve vergelijkingen:

1. De Start: Een Slimme Jager

Stel je voor dat er een slimme jager (het AI-systeem) is die de deelnemers beoordeelt. Deze jager heeft een lijst met criteria (bijvoorbeeld: cijfers, ervaring, motivatie). Hij kiest alleen de top 10% uit.

In het begin kijkt de jager naar iedereen en zegt: "Jullie hebben een kans, maar als je je cijfers (een veranderbaar ding) iets verbetert, kun je misschien net boven de streep komen." Dit noemen ze actieve hulp (actionable recourse). Het idee is: "Als je hard werkt, kun je winnen."

2. Het Probleem: De Druk van de Menigte

Nu gebeurt er iets interessants. Omdat iedereen dit advies krijgt, gaan iedereen tegelijkertijd harder werken om hun cijfers te verbeteren.

Iedereen stopt met slapen om te studeren.
Iedereen doet aan extra cursussen.

De vergelijking: Stel je voor dat iedereen in een zwembad tegelijkertijd probeert hoger te springen. Als iedereen harder duwt, stijgt het waterpeil (de lat) voor iedereen. Je springt hoger, maar omdat iedereen dat doet, ben je nog steeds niet boven de anderen uit. Dit noemen de auteurs "involutie": je rent steeds harder, maar je komt niet verder dan waar je begon.

3. De Valstrik: De Lat Verplaatst Zich

Dit is het belangrijkste punt van het artikel: De winnende lat is niet vast.
De jager kijkt niet naar een vast cijfer (bijv. "90% is goed"). Hij kijkt naar de topgroep.

Als iedereen zijn cijfers van 80 naar 90 brengt, kijkt de jager opeens naar de topgroep die nu 95 scoort.
De lat is dus dynamisch: hij beweegt mee met de groep.

Dit creëert een dynamisch spel:

De jager kiest de huidige winnaars.
De verliezers proberen te verbeteren.
Door die verbetering verandert de groep, en dus verandert de jager zijn regels voor de volgende ronde.
De lat gaat omhoog, en de verliezers moeten weer harder werken.

4. De Onrechtvaardigheid: De Startpositie is Bepalend

Hier wordt het somber. De auteurs laten zien dat de mensen die in het begin al een beetje beter waren (misschien door een gelukje of een betere start), de regels gaan bepalen.

Stel, groep A begint met een klein voordeel. Ze worden geselecteerd.
Omdat zij de "winnaars" zijn, bepaalt hun profiel welke richting de jager belangrijk vindt.
De verliezers (groep B) moeten nu precies in die richting werken.

De metafoor: Stel je voor dat de winnaars een pad door een bos hebben gevonden. De verliezers krijgen de opdracht: "Loop precies over dat pad." Maar als het pad al vol is met mensen, wordt het een file. De verliezers rennen zich suf, maar omdat de winnaars het pad al hebben "geclaimd", blijven ze voorop lopen. De afstand tussen de winnaars en de verliezers wordt niet kleiner, maar groter.

5. De Muur: Het Uiteindelijke Stagnatiepunt

Uiteindelijk raken de verliezers vast.

Er is een muur (bijvoorbeeld: je kunt niet oneindig studeren, of er is een maximumcijfer).
Naarmate je dichter bij die muur komt, wordt het oneindig moeilijk om nog een stapje verder te komen. Het kost je je gezondheid, je geld en je tijd, maar je komt er niet doorheen.
De verliezers geven op, of ze blijven vastzitten in een staat van "niets doen", omdat het te duur is om nog iets te proberen.

Conclusie: Een Systeem dat zichzelf in de weg zit

Het artikel waarschuwt dat als we AI-systemen gebruiken om mensen te selecteren in een competitieve omgeving, en we geven iedereen "goede adviezen" om te verbeteren, we een valstrik creëren:

De lat stijgt: Iedereen moet harder werken om even goed te blijven.
De kloof blijft: De mensen die al een voorsprong hadden, bepalen de regels en blijven voorop.
Vastlopen: Uiteindelijk stopt de vooruitgang omdat de kosten te hoog worden.

Kort samengevat: Het is alsof je in een race zit waar de finishlijn zich verplaatst naarmate je sneller loopt. Als iedereen tegelijkertijd sneller gaat, win je niets, maar ben je wel moe. En de mensen die al voorop liepen, bepalen waar de finishlijn nu ligt, waardoor ze nooit meer ingehaald kunnen worden.

De auteurs zeggen: "We moeten oppassen dat we niet denken dat 'iedereen een kans geven' automatisch eerlijk is. In een competitie kan het juist zorgen voor een onoverbrugbare kloof."

Titel: Actieerbare Recourse in Competitieve Omgevingen: Een Dynamisch Spel met Endogene Selectie

Auteurs: Ya-Ting Yang en Quanyan Zhu (New York University)

1. Probleemstelling

Traditioneel onderzoek naar actieerbare recourse (de mogelijkheid voor individuen om hun kenmerken aan te passen om een ongunstige AI-beslissing om te keren) richt zich vaak op individuele gevallen binnen een statische context. Het veronderstelt dat als een individu de aanbevolen verbeteringen doorvoert, de uitkomst positief wordt.

Het paper identificeert echter een fundamenteel gat: veel AI-systemen opereren in competitieve omgevingen (zoals toelating tot universiteiten, sollicitaties of toewijzing van subsidies), waar slechts een vast percentage ( $\rho$ ) van de kandidaten succesvol kan zijn.

De Kernvraag: Wat gebeurt er wanneer recourse voor iedereen beschikbaar is in een competitieve setting?
Het Paradoxale Effect: Als alle kandidaten hun kenmerken verbeteren volgens de aanbevelingen van het systeem, verandert de verdeling van de populatie. Hierdoor verschuift de beslissingsgrens (de "benchmark" voor succes) mee. Dit fenomeen wordt endogene selectie genoemd.
Involutie: Het paper koppelt dit aan het sociologische concept van "involutie": individuen investeren steeds meer moeite om hun profielen te verbeteren, maar omdat de collectieve benchmark stijgt, wordt de relatieve verbetering kleiner en de inspanning steeds minder effectief.

2. Methodologie en Model

De auteurs stellen een wiskundig raamwerk voor dat recourse modelleert als een strategische interactie in een dynamisch systeem.

A. Risicogebaseerde Selectie (De Ontwerper)

Selectieregel: De ontwerper selecteert de top $\rho$ -fractie van de populatie op basis van een lineaire score $s_i = w^\top x_i$ .
CVaR-Formulering: De selectie wordt geformuleerd als het maximaliseren van de Conditional Value-at-Risk (CVaR) van de scores. Specifiek wordt een aangepaste $CVaR^{up}_\rho$ gebruikt die de gemiddelde score van de beste $\rho$ -fractie maximaliseert.
Regularisatie: Om het optimalisatieprobleem goed gesteld te maken, wordt een kwadratische regularisatie ( $\lambda \|w\|^2$ ) toegepast. Dit leidt tot een oplossing waarbij de optimale scorevector $w^*$ evenredig is met het zwaartepunt (centroid) van de geselecteerde subgroep.

B. Actieerbare Recourse (De Kandidaten)

Kenmerken: Kenmerken worden gesplitst in actiebaar ( $J_A$ , aanpasbaar) en niet-actiebaar ( $J_N$ , vast).
Minimale Recourse: Afgewezen kandidaten proberen hun score te verhogen door actiebare kenmerken aan te passen. De kosten worden gemodelleerd als een kwadratische functie van de inspanning.
Logaritmische Barrière: Om de fysieke of institutionele limieten van verbetering te modelleren (bijv. een maximale toetsscore), wordt een logaritmische barrièrefunctie gebruikt in de kostenfunctie. Dit zorgt ervoor dat de marginale kosten naar oneindig gaan naarmate de kandidaat de bovengrens ( $g$ ) nadert.

C. Dynamisch Systeem en Evenwicht

Gesloten Lus: Het systeem evolueert in discrete tijdstappen $t$ $t$ .
1. De ontwerper bepaalt $w_t$ en de drempel $\eta_t$ op basis van de huidige populatie $X_t$ .
2. Afgewezen kandidaten passen hun kenmerken aan ( $x_{t+1}$ ) langs de richting die wordt opgelegd door $w_t$ .
3. Dit creëert een deterministische dynamische map $\Phi: X_t \to X_{t+1}$ .
Recourse-evenwicht: Een toestand $X^*$ is een evenwicht als er geen verdere verbetering meer mogelijk is (of wenselijk) voor afgewezen kandidaten, gegeven de huidige beslissingsregel.

3. Belangrijkste Resultaten en Analyse

A. Structurele Verantwoordelijkheid en Falen

Het model onthult drie kritieke vormen van systemisch falen:

Onuitvoerbaarheid: Als de optimale gewichten volledig op niet-actiebare kenmerken liggen ( $w^*_A = 0$ ), is recourse onmogelijk. Afwijzingen zijn dan structureel en niet prestatie-gebaseerd.
Sterkte van Actieerbaarheid: De grootte van $\|w^*_A\|^2$ bepaalt hoe "doorlatend" het systeem is. Een lage waarde betekent dat zelfs kleine marges enorme inspanningen vereisen.
Incentive Alignement: De classifier stuurt de inspanning van kandidaten direct aan. Als de richting van verbetering niet overeenkomt met maatschappelijk waardevolle vaardigheden, wordt er in de verkeerde richting geoptimaliseerd.

B. Opkomst van Sociale Stratificatie

Een van de belangrijkste bevindingen is het fenomeen van sociale stratificatie:

Definitie: Een evenwicht waarbij de selectie volledig afhankelijk wordt van niet-actiebare kenmerken ( $d^* = 0$ ), terwijl er nog steeds een groep afgewezen kandidaten is ( $R^* \neq \emptyset$ ).
Mechanisme: De groep die oorspronkelijk wordt geselecteerd, bepaalt niet alleen de succesnorm, maar ook de richting waarin anderen moeten concurreren. Omdat de geselecteerde groep hun positie behoudt (vaak door niet-actiebare voordelen), en de afgewezen groep tegen een stijgende muur van kosten (barrière-effect) aanloopt, vergroot de kloof tussen de groepen.
Resultaat: Dit leidt tot persistente prestatiekloven. De "winnaars" definiëren de spelregels die de "verliezers" onmogelijk kunnen winnen, ongeacht hun inspanning.

C. Numerieke Case Study

In een simulatie met GRE-scores (actiebaar) en GPA (niet-actiebaar):

Fase 1 (Rapid Adjustment): Aanvankelijk stijgen de GRE-scores van afgewezen kandidaten snel omdat de drempel laag is en de kosten laag.
Fase 2 (Endogene Verlangzaming): Naarmate de kandidaten de bovengrens van hun score benaderen, nemen de marginale kosten exponentieel toe (door de logaritmische barrière).
Fase 3 (Stabilisatie): De beslissingsgrens roteert en wordt steiler. De verbetering stopt, maar de kloof tussen de geselecteerde en afgewezen groep blijft bestaan, ondersteund door de niet-actiebare kenmerken.

4. Bijdragen en Relevantie

Theoretische Bijdrage: Het paper introduceert een formeel raamwerk dat recourse integreert met strategisch gedrag en performative voorspelling in een competitieve, resource-beperkte omgeving.
Conceptuele Inzicht: Het definieert en analyseert "endogene selectie" en toont aan hoe recourse in een competitieve setting kan leiden tot involutie (meer inspanning, minder rendement) en versterkte ongelijkheid.
Beleid en Governance: De resultaten waarschuwen dat het simpelweg beschikbaar stellen van recourse-mogelijkheden in competitieve systemen (zoals toelatingen) niet per se leidt tot meer gelijkheid. Integendeel, het kan de bestaande vooroordelen versterken en leiden tot een vastgevroren sociale stratificatie waarbij de oorspronkelijke winnaars de spelregels blijven dicteren.

Conclusie:
Dit onderzoek toont aan dat in competitieve AI-systemen de dynamiek van recourse niet lineair is. De interactie tussen de veranderende beslissingsregels en de strategische reacties van de populatie creëert een gesloten lus die vaak resulteert in een evenwicht met persistente ongelijkheid, waarbij de initiële selectie de toekomstige kansen structureel bepaalt.