📊 statistics

Performative Learning Theory

Dit artikel stelt een statistisch leerframework vast voor performatieve voorspellingen, waarbij wordt bewezen dat er een fundamentele afweging bestaat tussen het vermogen van een model om uitkomsten te beïnvloeden en zijn capaciteit om te generaliseren, terwijl wordt aangetoond dat hertrainen op vervormde monsters paradoxaal genoeg de generalisatiegaranties kan verbeteren.

Oorspronkelijke auteurs: Julian Rodemann, Unai Fischer-Abaigar, James Bailie, Krikamol Muandet

Gepubliceerd 2026-06-09

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Julian Rodemann, Unai Fischer-Abaigar, James Bailie, Krikamol Muandet

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Het Grote Idee: De "Zelfvervullende" en "Zelfvernietigende" Kristallen Bol

Stel je voor dat je een kristallen bol hebt die de toekomst voorspelt. In de oude dagen van machine learning gingen we ervan uit dat de kristallen bol slechts een passieve waarnemer was. De bol keek naar de wereld, deed een gok, en de wereld bleef precies hetzelfde.

Maar in de echte wereld veranderen voorspellingen vaak de wereld. Dit wordt performativiteit genoemd.

De Zelfvernietigende Voorspelling: Stel je voor dat een navigatie-app een file voorspelt op een specifieke weg. Vanwege deze voorspelling vermijden iedereen die weg. Het resultaat? De file verdwijnt. De voorspelling was op het moment zelf "juist", maar door de aankondiging maakte hij zichzelf onjuist. De wereld verzette zich tegen de voorspelling.
De Zelfvervullende Voorspelling: Stel je voor dat een uitzendcentrum AI gebruikt om te voorspellen wie een hoog risico loopt op langdurige werkloosheid. De AI markeert een persoon als "hoog risico", waardoor het uitzendcentrum diegene extra training geeft. Dankzij die extra hulp vindt de persoon een baan. De voorspelling kwam uit, maar alleen omdat de voorspelling de uitkomst heeft veroorzaakt.

Dit artikel stelt een moeilijke vraag: Als je voorspellingen de data veranderen waar je van leert, kun je je model dan nog wel vertrouwen?

Het Kernprobleem: De "Echochamber" versus de "Rebel"

De auteurs introduceren een nieuwe theorie genaamd Performative Learning Theory. Ze leggen uit dat wanneer je een model traint, je meestal een kleine steekproef aan data gebruikt (zoals een proeverijtje) om te voorspellen hoe het zal werken op de hele populatie (het hele restaurant).

Echter, als je voorspellingen het gedrag veranderen, kunnen er tegelijkertijd twee vreemde dingen gebeuren:

De Steekproef wordt een "Echochamber" (Zelfvervullend): De kleine groep mensen op wie je test, kan precies reageren zoals je verwacht. Ze zien de voorspelling, veranderen hun gedrag om erbij te passen, en het model denkt: "Wauw, ik ben perfect!" Het model krijgt een vals gevoel van zelfvertrouwen omdat de steekproef het "misleidt" door de eigen bias te bevestigen.
De Populatie wordt een "Rebel" (Zelfvernietigend): De rest van de wereld (de populatie) kan precies het tegenovergestelde doen. Ze zien de voorspelling, raken geïrriteerd en doen het tegenovergestelde. Het model faalt wanneer het probeert zijn "perfecte" training toe te passen op de echte wereld.

De Analogie: Stel je een leraar voor die een toets afneemt aan een paar studenten (de steekproef).

Als de leraar zegt: "Deze vraag is makkelijk," en de studenten gaan harder studeren en halen 100%, dan denkt de leraar dat de toets makkelijk is.
Maar als de leraar vervolgens diezelfde toets aan de hele school geeft, en de andere studenten denken: "Hij vindt het makkelijk? Dan maak ik het moeilijk," en ze zakken allemaal, dan was het model van de leraar fout.

De Afweging: De Wereld Veranderen versus Leren van de Wereld

Het artikel ontdekt een fundamentele afweging, zoals een wipwap:

Hoe meer je de wereld verandert (interventie), hoe moeilijker het is om ervan te leren.
Hoe meer je probeert te leren van de wereld, hoe minder je de wereld probeert te veranderen.

Als een uitzendcentrum probeert iedereen te helpen door mensen op basis van een voorspelling aan trainingsprogramma's toe te wijzen, kunnen ze die individuen misschien helpen. Maar door dat te doen, veranderen ze de data zo erg dat ze niet meer kunnen zien of hun model daadwerkelijk goed is of dat het slechts een nepwerkelijkheid creëert. Het is alsoals proberen de temperatuur van een kamer te meten terwijl je een brander tegen de thermometer houdt.

De Oplossing: Hoe Houd je je Model Eerlijk

De auteurs bewijzen wiskundige formules (bounds) die ons vertellen hoeveel fouten we in deze lastige situaties kunnen verwachten. Ze bieden een praktische strategie voor instellingen (zoals uitzendcentra of navigatie-apps):

Train niet alleen opnieuw op de veranderde data: Als je je model blijft hertrainen op data die al is veranderd door je eigen voorspellingen, zul je vast komen te zitten in die "echochamber" en zal je model slechter worden.
Gebruik de "Initiële Fit": Het artikel suggereert dat je allereerste model (getraind voordat er veranderingen plaatsvonden) vaak de meest betrouwbare baseline is.
Combineer de Aanwijzingen: Je kunt de veranderingen die je in je kleine steekproef ziet, gebruiken om in te schatten hoe de hele populatie zal reageren. Denk aan een windwijzer: als de wind de kleine windwijzer in de tuin beweegt, kun je raden hoe de wind over de hele stad waait, zelfs als de stad anders reageert.

Praktijkvoorbeeld uit het Artikel

De auteurs testten dit op echte data van het Duitse arbeidsagentschap (German Employment Agency).

De Opzet: Ze keken naar data van werklozen. Het agentschap gebruikte een model om te voorspellen wie langdurig werkloos zou blijven.
De Twist: Degenen die als een hoog risico werden aangemerkt, kregen werktraining. Deze training hielp hen bij het vinden van werk, wat de data veranderde.
Het Resultaat: De auteurs toonden aan dat als het agentschap probeert te veel mensen tegelijk te helpen (de data te veel te veranderen), het vermogen van hun model om de toekomst voor nieuwe mensen te voorspellen, aanzienlijk afneemt. Ze bewezen wiskundig dat er een limiet is aan hoeveel je kunt interveniëren voordat je voorspellingen onbetrouwbaar worden.

Samenvatting

Dit artikel zegt niet: "Stop met het doen van voorspellingen." In plaats daarvan geeft het een regelboek voor hoe je voorspelt wanneer jouw voorspellingen de wereld zullen veranderen.

Het waarschuwt ons: Als je de regels van het spel verandert terwijl je het speelt, vergeet je misschien de regels zelf. Maar als je voorzichtig bent, kun je de kleine veranderingen die je in een testgroep ziet gebruiken om te begrijpen hoe de hele wereld zal reageren, waardoor je modellen kunt bouwen die robuust zijn, zelfs wanneer ze actief de werkelijkheid vormgeven.

Technische Samenvatting: Performative Learning Theory

1. Probleemstelling

Machine learning-systemen zijn geëvolueerd van passieve analisten van data naar actieve vormgevers van de wereld. In veel domeinen beïnvloedt de inzet van voorspellende modellen de zeer uitkomsten die ze beogen te voorspellen, een fenomeen dat bekend staat als performative predictions (PP). Hoewel eerder werk (bijv. Perdomo et al., 2020; Brown et al., 2022) PP heeft geformaliseerd en de stabiliteit en optimaliteit van modellen onder populatiebrede feedbackloops heeft bestudeerd, blijft er een kritische kloof bestaan: generalisatie onder performativiteit.

Specifiek adresseert de bestaande literatuur niet adequaat hoe goed modellen generaliseren van een eindige trainingssteekproef naar een populatie wanneer:

De steekproef zelf reageert op de voorspellingen van het model (bijv. gebruikers in een bèatest die hun gedrag aanpassen op basis van app-aanbevelingen).
De populatie reageert op de voorspellingen.
Beide reageren, potentieel op conflicterende wijzen.

De centrale vraag is of en hoe goed modellen getraind op performatieve steekproeven kunnen generaliseren naar een performatieve populatie, en wat de theoretische grenzen zijn van deze generalisatiefout.

2. Methodologie en Raamwerk

De auteurs introduceren Performative Learning Theory (PLT), waarbij performative voorspellingen worden ingebed in de statistische leertheorie. Het raamwerk generaliseert de standaardsetting door de evolutie van zowel de steekproefverdeling ( $\hat{d}_t$ ) als de populatieverdeling ( $d_t$ ) over tijd $t$ te overwegen.

Belangrijke Definities en Aannames

Stateful Transitie: De evolutie van de verdeling wordt beheerst door een onbekende transitiekaart $Tr$, waarbij $d_t = Tr(d_{t-1}, \theta_t)$ . Dit generaliseert stateless modellen waarbij $d_t$ alleen afhankelijk is van $\theta_t$ .
Risicominimalisatie: De studie beschouwt zowel Repeated Risk Minimization (RRM) op de populatie als Repeated Empirical Risk Minimization (RERM) op de steekproef.
Condities: De analyse steunt op standaardveronderstellingen uit de PP-literatuur:
- Sterke Convexiteit: De verliesfunctie $\ell$ is $\gamma$ -sterk convex in parameters $\theta$ .
- Wasserstein Sensitiviteit: De transitiekaart $Tr$ is $(\varepsilon, p)$ -gezamenlijk sensitief, wat betekent dat de Wasserstein-afstand tussen verdelingen lineair verschuift met de verschuiving in parameters en voorgaande verdelingen.
- Regulariteit: De loss is Lipschitz in data en continu differentieerbaar in parameters.

Theoretische Benadering

De auteurs leiden generalisatiegrenzen af door de Wasserstein-afstand tussen verdelingen te analyseren. Zij maken gebruik van:

Convergentiegrenzen: Het benutten van Fournier & Guillin (2015) om de afstand tussen de initiële steekproef en de ware populatie te begrenzen.
In-Sample Shift Grenzen: Het afleiden van grenzen voor hoeveel de steekproefverdeling verschuift door performatieve effecten binnen de trainingslus.
Covering Numbers: Het gebruik van covering number entropy integralen (Kolmogorov & Tikhomirov, 1959) in plaats van Rademacher-complexiteit om de dynamische aard van de distributie-ondersteuning te hanteren.
Dualiteit in de Wasserstein-ruimte: Het presenteren van zelf-negerende (populatie) en zelf-bevestigende (steekproef) voorspellingen als min-max en min-min risicofunctionalen, waardoor het gebruik van empirische proces-theorie mogelijk wordt voor lokaal distributioneel robuust en gunstig leren.

3. Belangrijkste Bijdragen en Resultaten

Het artikel behandelt vier specifieke onderzoeksvragen (RQ1–RQ4) met betrekking tot generalisatie onder verschillende performativiteitsscenario's:

RQ1: Generalisatie Onder Steekproef-performativiteit

Scenario: Een model wordt opnieuw getraind op een steekproef die reageert op voorspellingen, maar de populatie doet dat niet (of is nog niet geobserveerd).
Resultaat (Theorem 3.7): De auteurs bewijzen een bovengrens op de excessieve risico $R(d_0, \hat{\theta}_T) - \inf R(d_0, \theta)$ .
Kerninzicht: De grens hangt af van de performatieve responsrate ( $m/n$ , het deel van de steekproefeenheden dat gedrag verandert). Als $m = o(n)$ , vervalt de grens naarmate $n \to \infty$ . Echter, als de steekproef sterk reageert, groeit de grens, wat duidt op een trade-off: het manipuleren van de steekproef om resultaten te verbeteren, verslechtert het vermogen om generaliseerbare eigenschappen uit die steekproef te leren.

RQ2: Generalisatie Onder Volledige Performativiteit

Scenario: Het model wordt getraind op een steekproef, waarna het wordt ingezet bij een populatie die reageert op de voorspellingen.
Resultaat (Theorem 3.10 & 3.13): Grenzen worden afgeleid voor het performatieve excessieve risico (fout op de verschoven populatie) en de generalisatiekloof (verschil tussen het risico op de verschoven populatie en de verschoven steekproef).
Structureel Inzicht: In het slechtste geval creëert de steekproef een "empirische echokamer" door zelf-bevestigende voorspellingen (die de voorspelling misleidend bevestigen), terwijl de populatie deze zelf-negeert (het tegenovergestelde gedrag vertoont). Dit creëert een fundamentele kloof tussen trainingsprestaties en out-of-sample prestaties.
Corollary 3.11: Een praktisch inzicht suggereert dat de strakste generalisatiegaranties worden verkregen door de initiële fit ( $\hat{\theta}_0$ ) op out-of-sample data te gebruiken, terwijl de populatieverschuiving wordt geschat op basis van geobserveerde steekproefverschuivingen, in plaats van herhaaldelijk te hertrainen op de verstoorde steekproef.

RQ3: Cumulatief Performatief Excessief Risico

Scenario: Een model wordt getraind op een steekproef, waarna het wordt uitgerold naar een populatie waar het herhaaldelijk wordt hertraind op de verschuivende populatie.
Resultaat (Theorem 3.16): Het artikel biedt grenzen voor de cumulatieve fout over de tijd. De analyse laat zien dat de geaccumuleerde fout wordt gedreven door de initiële steekproef-naar-populatie verschuiving en de daaropvolgende populatiedynamiek.

RQ4: Inferentiële Kloof

Scenario: Het vergelijken van de empirische risicominimizer (getraind op steekproeven) met de theoretische risicominimizer (getraind op de populatie).
Status: Het artikel merkt op dat dit gedeeltelijk is beantwoord door recent werk (Li et al., 2025b) voor asymptotische gevallen ( $n \to \infty$ ) en identificeert finite-sample analyse voor stateful performativiteit als een openstaande richting.

4. Empirische Illustratie

De auteurs illustreren hun grenzen met behulp van echte administratieve gegevens van de Duitse Federal Employment Agency (1975–2017) met betrekking tot het profileren van werkzoekenden.

Setup: Een logistisch regressiemodel voorspelt het risico op langdurige werkloosheid. Personen met een hoog risico worden toegewezen aan jobtraining, wat (indien effectief) het risico op werkloosheid vermindert, wat een performatief effect creëert.
Bevindingen: De grenzen kwantificeren succesvol de generalisatiekloof. Naarmate het deel van de werkzoekenden dat aan training wordt toegewezen ( $\xi$ ) toeneemt, groeit de performatieve term in de grens, wat de change-learn trade-off demonstreert: hoe meer het model de populatie verandert (door meer trainingen toe te wijzen), hoe minder betrouwbaar de voorspellingen worden voor de algemene populatie.

5. Betekenis en Claims

Het artikel beweert de studie van leerbaarheid onder performativiteit te initiëren. De belangrijkste bijdragen zijn:

Theoretische Fundering: Het vestigt de eerste set generalisatiegrenzen voor performatieve voorspellingen die rekening houden met eindige steekproeven en het onderscheid tussen steekproef- en populatiereacties.
Fundamentele Trade-off: Het formaliseert een trade-off tussen interventie (de wereld veranderen via voorspellingen) en inferentie (leren van de resulterende data). Hoe meer een model zijn omgeving beïnvloedt, hoe moeilijker het wordt om vanuit die data te generaliseren.
Echokamer Mechanisme: Het identificeert een specifiek mechanisme waarbij steekproeven modellen kunnen "misleiden" door zelf-bevestigende profetieën, terwijl populaties ze "negeren", wat leidt tot opgeblazen generalisatiekloven.
Praktische Begeleiding: Het biedt een contra-intuïtief maar theoretisch onderbouwd advies: wanneer men geconfronteerd wordt met performativiteit, kan het vertrouwen op de initiële modelfit gecombineerd met schattingen van de verschuiving (afgeleid van steekproefreacties) strakkere garanties bieden dan continue hertraining op verstoorde data.

De auteurs hanteren een bescheiden toon en erkennen dat hun grenzen rusten op specifieke regulariteitscondities (sterke convexiteit, Lipschitz-continuïteit) en dat de transitiekaart $Tr$ als een black box wordt behandeld. Zij positioneren dit werk als een fundamentele stap naar het begrijpen van de beperkingen van voorspellende systemen in domeinen met hoge inzet, zoals arbeidsbemiddeling, financiële markten en strafrecht, waar voorspellingen actief uitkomsten vormgeven.