💻 computer science

Partially Performative Prediction

Dit artikel introduceert het raamwerk van gedeeltelijk performatieve voorspelling, wat traditionele performatieve voorspelling generaliseert door zowel endogene distributieverschuivingen veroorzaakt door modelimplementatie als exogene verschuivingen gedreven door externe factoren te bepalen, terwijl concepten van stabiliteit en optimaliteit worden uitgebreid om adaptieve leerheuristieken in dergelijke dynamische omgevingen te analyseren.

Oorspronkelijke auteurs: Jaewook Lee, Tijana Zrnic

Gepubliceerd 2026-06-09

📖 6 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Jaewook Lee, Tijana Zrnic

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Het Kernprobleem: De Zelfvervullende Voorspelling

Stel je voor dat je een weervoorspeller bent. Vroeger was je werk simpel: kijk naar de wolken, voorspel of het gaat regenen, en heb gelijk. Het weer gaf niet om wat jij zei; het gebeurde gewoon. Dit is wat computerwetenschappers "klassieke voorspelling" noemen.

Maar stel je nu voor dat je een aandelenanalist bent. Als je voorspelt dat een bepaald aandeel zal stijgen, kunnen mensen het gaan kopen, waardoor de prijs ook daadwerkelijk stijgt. Jouw voorspelling veranderde de realiteit die je probeerde te voorspellen. Dit wordt "Performative Prediction" genoemd. De data verschuift door jouw acties.

Het probleem met huidige modellen:
De meeste bestaande onderzoeken gaan uit van één van de twee extremen:

Zuiver Performative: De enige reden dat de data verandert, is door jouw voorspelling (zoals in het voorbeeld van de aandelenmarkt).
Zuiver Exogeen: De data verandert door redenen die volledig buiten jouw controle liggen (zoals het weer dat verandert door een orkaan), en jouw voorspellingen hebben er geen invloed op.

De Realiteit:
In de echte wereld is het bijna altijd een mix van beide.

Voorbeeld: Een algoritme voor kredietwaardigheid voorspelt wie waarschijnlijk zijn lening niet zal terugbetalen.
- Performative deel: Als de bank leningen weigert aan bepaalde mensen, kunnen die mensen hun gedrag aanpassen (of stoppen met aanvragen), waardoor de data verandert.
- Exogeen deel: De economie stort in, of er wordt een nieuwe wet aangenomen. Deze dingen veranderen de data ongeacht wat het algoritme zegt.

Dit paper introduceert "Partially Performative Prediction," een framework dat deze rommelige, echte wereldwijde mix aanpakt.

De Analogie: Rijden in een Bewegende Menigte

Denk aan het trainen van een AI-model als het rijden in een auto.

Het Doel: Je wilt in het midden van de rijstrook blijven (fout/loss minimaliseren).
De Performative Verschuiving (Jij): Als je naar links stuurt, kunnen de andere auto's om je heen bewegen om je te ontwijken. Jouw actie verandert het verkeerspatroon.
De Exogene Verschuiving (De Weg): De weg zelf kan krommingen hebben, of er kan wind zijn die de auto wegduwt. Dit zijn krachten die jij niet hebt gecreëerd.

Klassieke Performative Prediction gaat ervan uit dat de weg recht en vlak is, en dat het enige dat beweegt het verkeer is dat op jou reageert.
Klassiek Online Learning gaat ervan uit dat het verkeer bevroren is, maar de weg constant onder je banden verschuift.

De aanpak van dit paper: Het erkent dat beide gebeuren. Jij bent aan het sturen (beïnvloedt het verkeer), en de weg is aan het buigen (externe krachten).

Belangrijke Concepten Uitgelegd

1. De "Moving Target" (Het bewegende doelwit)

In de oude modellen was het doel om een "stabiel punt" te vinden—een perfect model dat, eenmaal ingezet, niet meer zou zorgen dat de data verschoift. Het was alsof je een parkeerplek zocht.

In deze nieuwe "Partiële" wereld is er geen permanente parkeerplek. Het "perfecte model" is een bewegend doelwit.

Omdat de externe wereld (de exogene verschuiving) verandert, verandert het "beste" model elke dag.
Omdat jouw model invloed heeft op de wereld (de performative verschuiving), zorgt jouw poging om het doelwit te vangen ervoor dat het doelwit weer een klein beetje verschuift.

2. Regret: Hoe ver loop je achter?

Omdat je niet kunt parkeren, kun je succes niet meten door te vragen "ben ik gestopt?". In plaats daarvan meet je "Regret" (spijt).

Regret is het verschil tussen hoe goed jij hebt gepresteerd en hoe goed je had kunnen presteren als je magisch gezien voor elke dag het perfecte model had gekend.
Het paper definieert twee soorten regret:
- Stability Regret: Hoe ver ben je verwijderd van het model dat op dit moment stabiel zou zijn?
- Optimality Regret: Hoe ver ben je verwijderd van het model dat op dit moment de beste resultaten zou geven?

3. Path Length: Hoe snel verandert de wereld?

Het paper introduceert een belangrijke metriek genaamd "Path Length".

Stel je voor dat het "perfecte model" een hardloper is. De Path Length is hoe ver die hardloper over een bepaalde tijd beweegt.
Als de externe wereld kalm is (langzame exogene verschuiving), beweegt de hardloper langzaam. Het is makkelijk om bij te houden.
Als de externe wereld chaotisch is (snelle exogene verschuiving), sprint en zigzagt de hardloper. Het is moeilijk om bij te houden.
Het paper bewijst dat jouw fout (regret) sterk afhangt van deze Path Length. Hoe meer de wereld op zichzelf verandert, hoe moeilijker het voor jouw algoritme is om het bij te houden.

Wat hebben ze ontdekt? (De Resultaten)

De auteurs hebben verschillende veelvoorkomende manieren getest om AI-modellen bij te werken (zoals "Retraining" of "Gradient Descent") in deze gemengde omgeving. Dit is wat zij ontdekten:

1. De Trade-off van "Alpha" ( $\alpha_t$ )
Ze gebruiken een variabele genaamd $\alpha$ om te vertegenwoordigen hoeveel de externe wereld ertoe doet versus hoeveel jouw model ertoe doet.

Als $\alpha$ laag is (Voornamelijk Performative): De wereld reageert voornamelijk op jou. Het paper laat zien dat standaard retraining goed werkt hier. De "Path Length" is klein omdat de wereld stabiel is, tenzij jij ermee in contact komt.
Als $\alpha$ hoog is (Voornamelijk Exogeen): De wereld verandert op zichzelf. Jouw model heeft minder macht om de data vorm te geven. Het paper laat zien dat retraining nog steeds werkt, maar je fout zal groeien als de externe wereld te snel verandert. Je bent in feite een rondrennende trein aan het achtervolgen.

2. Retraining is nog steeds goed (met kanttekeningen)
Ze analyseerden "Repeated Risk Minimization" (RRM)—wat simpelweg een chique term is voor "het model opnieuw trainen op de nieuwste data."

Ze bewezen dat als je vaak genoeg hertraint, je je regret laag kunt houden.
Echter, de "kosten" van deze regret zijn gekoppeld aan hoe snel het externe milieu afdrijft. Als de externe drift onvoorspelbaar is, zal je fout hoger zijn.

3. Optimaliteit is moeilijker
Het vinden van het "Stabiele" punt (waar het model stopt met het veroorzaken van verschuivingen) is makkelijker dan het vinden van het "Optimale" punt (de absolute beste prestatie).

Om het Optimale punt te vinden, moet je anticiperen op hoe jouw model de toekomst zal veranderen.
Het paper gebruikt "Zeroth-order optimization" (in essentie het systeem een klein duwtje geven om te zien hoe het reageert) om deze optimale punten te vinden.
Ze lieten zien dat je, zelfs met deze complexe methode, het bewegende optimale doelwit kunt volgen, mits het doelwit niet te grillig beweegt.

Samenvatting in één zin

Dit paper biedt de wiskundige regels voor hoe AI-modellen moeten leren wanneer zij de wereld die ze voorspellen beïnvloeden, terwijl de wereld ook onafhankelijk van hen verandert—en bewijst dat, zolang de externe wereld niet te chaotisch verandert, standaard retraining-methoden de AI nog steeds op koers kunnen houden.

Technische Samenvatting: Gedeeltelijk Performatieve Voorspelling

Probleemstelling

Het artikel behandelt de beperkingen van bestaande frameworks voor performatieve voorspelling, die distributieverschuivingen modelleren als puur endogeen (geïnduceerd door het ingezette model $\theta$ ). In klassieke performatieve voorspelling verandert de datadistributie $D(\theta)$ uitsluitend als reactie op de acties van de leerder. De auteurs observeren echter dat distributieverschuivingen in realistische consequentiële domeinen (bijv. financiën, gezondheidszorg) zelden puur endogeen zijn. Ze worden vaak gedreven door een mengeling van de invloed van het model en exogene factoren (bijv. seizoenseffecten, marktkrachten, beleidswijzigingen) die onafhankelijk van de leerder evolueren.

Om dit samenspel te vangen, introduceert het artikel Gedeeltelijk Performatieve Voorspelling. In deze setting is de datadistributie in ronde $t$ een tijdsvariërende mengeling:
$D_t(\theta) = (1 - \alpha_t)D(\theta) + \alpha_t P_t$
waarbij:

$D(\theta)$ de performatieve component is die afhankelijk is van het model $\theta$ .
$P_t$ een exogene distributie is die onafhankelijk van $\theta$ over de tijd evolueert.
$\alpha_t \in [0, 1]$ de relatieve kracht van de exogene verschuiving reguleert.

Dit framework generaliseert klassieke performatieve voorspelling (hersteld wanneer $\alpha_t = 0$ ) en nadert een setting van zuiver exogene verschuiving (wanneer $\alpha_t = 1$ ). De kernuitdaging is dat het "doelwit" (het optimale of stabiele model) niet langer statisch is; het drift door zowel de acties van de leerder als de externe evolutie van $P_t$ .

Methodologie en Framework

1. Herdefiniëren van Doelstellingen: Dynamische Regret

Omdat de omgeving niet-stationair is, is het doel om te convergeren naar een enkel vast model (zoals bij performatieve stabiliteit of optimaliteit) onvoldoende. De auteurs stellen voor om prestaties te meten via dynamische regret ten opzichte van tijdvariërende sequenties van benchmarks:

Performatieve Stabiliteitsregret ( $Reg^{PS}_T$ ): Vergelijkt de sequentie van de leerder $\{\theta_t\}$ met de sequentie van performatief stabiele punten $\{\theta^{PS}_t\}$ , waarbij $\theta^{PS}_t$ de ontkoppelde risico minimaliseert gegeven de door $\theta^{PS}_t$ geïnduceerde distributie.
Performatieve Optimaliteitsregret ( $Reg^{PO}_T$ ): Vergelijkt de leerder met de sequentie van performatief optimale punten $\{\theta^{PO}_t\}$ , die het performatieve risico minimaliseren: $PR_t(\theta) = \mathbb{E}_{Z \sim D_t(\theta)}[\ell(Z, \theta)]$ .

2. Belangrijk Analytisch Instrument: Padlengte

Een centrale grootheid in de theoretische grenzen is de padlengte, gedefinieerd als de cumulatieve beweging van de comparator-sequentie:
$\sum_{t=1}^{T-1} \Delta^{PS}_t \quad \text{waarbij} \quad \Delta^{PS}_t = \|\theta^{PS}_t - \theta^{PS}_{t+1}\|$
Het artikel stelt vast dat de regret-grenzen expliciet afhangen van deze padlengte, die wordt gedreven door de snelheid van verandering van de exogene distributie $P_t$ en de mengcoëfficiënt $\alpha_t$ .

3. Geanalyseerde Algoritmen

Het artikel analyseert verschillende standaard leerheuristieken die zijn aangepast aan deze setting:

Repeated Risk Minimization (RRM): Update $\theta_{t+1} = \arg\min_\theta \mathbb{E}_{Z \sim D_t(\theta_t)}[\ell(Z, \theta)]$ .
Repeated Gradient Descent (RGD): Gebruikt volledige verwachte gradiënten.
Stochastic Gradient Descent (SGD): Omvat "greedy" (één sample per deployment) en "lazy" (meerdere samples/updates per deployment) varianten.
Zeroth-Order Algoritmen: Gebruikt voor performatieve optimaliteit waar gradiënten van het performatieve risico onhandelbaar zijn. Dit omvat Two-Deployment (ZGD2) en Single-Deployment (ZGD) methoden die het model verstoren om gradiënten te schatten.

Belangrijkste Bijdragen en Resultaten

1. Theoretische Grenzen voor Stabiliteit

De auteurs leiden regret-grenzen af voor RRM en RGD die endogene en exogene verschuivingen expliciet afwegen.

Theorem 3.2 (RRM): Onder aannames van sterke convexiteit en gladheid (smoothness) is de stabiliteitsregret begrensd door:
$Reg^{PS}_T(ARRM) = O\left(1 + \sum_{t=1}^{T-1} \Delta^{PS}_t\right)$
De vereiste contractiefactor voor convergentie is versoepeld vergeleken met de klassieke setting: $\epsilon < \frac{\mu}{(1-\alpha_{\min})\beta_z}$ .
Inzicht: Wanneer verschuivingen grotendeels performatief zijn ( $\alpha_t \approx 0$ ), verdwijnt de padlengte en is de regret constant. Wanneer verschuivingen grotendeels exogeen zijn ( $\alpha_t \approx 1$ ), hangt de regret af van de niet-stationariteit van $P_t$ . Als $P_t$ snel fluctueert, kan de regret groot zijn; als $P_t$ bijna constant is, blijft de regret laag.

2. Theoretische Grenzen voor Optimaliteit

Voor performatieve optimaliteit maakt het artikel gebruik van zeroth-order optimalisatietechnieken.

Theorem 5.2 & 5.3: De auteurs bieden regret-grenzen voor two-deployment en single-deployment zeroth-order algoritmen. De grenzen schalen met de dimensie $d$ , de tijdshorizon $T$ , en de padlengte van de optimale sequentie $\sum \Delta^{PO}_t$ .
Convexiteit-afweging: Het artikel merkt op dat hoewel een grote exogene component ( $\alpha_t \approx 1$ ) het volgen van het doel moeilijker maakt (verhoging van de padlengte), het het performatieve risico ook waarschijnlijker convex maakt (omdat de exogene component convex is als de loss dat is). Omgekeerd kan sterke endogene feedback het performatieve risico niet-convex maken, zelfs als de loss convex is.

3. Empirische Validatie

Experimenten op een kredietscore-dataset (strategisch responsmodel) en synthetische Gaussische data valideren de theoretische bevindingen:

Random Exogene Verschuivingen: Een sneller verval van $\alpha_t$ (het verminderen van het gewicht van de bewegende exogene term) leidt tot lagere regret.
Stationaire Exogene Verschuivingen: Het groter houden van $\alpha_t$ (dichter bij een vaste, niet-performatieve distributie) leidt tot lagere regret.
De empirische regret-curves komen overeen met de theoretische bovengrenzen wat betreft de ordening van verschillende $\alpha_t$ schema's.

Betekenis en Claims

Het artikel claimt het eerste framework te bieden dat endogene en exogene distributieverschuivingen verenigt onder één enkel leermodel. De primaire betekenis ligt in:

Generalisatie: Het generaliseert strikt de klassieke performatieve voorspelling, waarbij het aantoont dat standaard algoritmen (zoals RRM) effectief blijven maar een herwaardering van convergentievoorwaarden vereisen in aanwezigheid van exogene ruis.
Dynamische Benchmarking: Het verschuift het paradigma van statische evenwichten naar dynamische regret, waarbij wordt erkend dat in real-world systemen het "beste" model een bewegend doelwit is.
Identificatie van Afwegingen: Het karakteriseert expliciet de afweging tussen de moeilijkheid van het volgen van een bewegend doelwit (exogene drift) en de moeilijkheid van het optimaliseren van een niet-convex landschap (endogene feedback).

De auteurs blijven bescheiden over openstaande vragen, waarbij zij opmerken dat het matchen van de lower bounds voor de regret-rates (met name voor greedy SGD) en het versoepelen van de regulariteitsaannames (convexiteit, sensitiviteit) openstaande gebieden blijven voor toekomstig onderzoek. Ze suggereren ook dat de regret-definities natuurlijk kunnen worden uitgebreid naar niet-lineaire mengmodellen buiten het huidige lineaire framework.