Technische Samenvatting: Microfoundation Inferentie voor Strategische Voorspelling

1. Probleemstelling

Het artikel behandelt de uitdaging van performatieve voorspelling, een scenario waarin een predictief model $\theta$ de distributie van de doelvariabele beïnvloedt omdat belanghebbenden (agenten) strategische acties ondernemen om hun nut te maximaliseren als reactie op het model. Dit fenomeen, vaak beschreven door de wet van Campbell, creëert een distributieverschuiving waarbij de datadistributie $Q_\theta$ een functie is van de voorspeller $\theta$.

Een kritieke flessenhals bij het toepassen van de theorie van performatieve voorspelling is de onbekende mechanisme van deze distributieverschuiving. Bestaande benaderingen vallen over het algemeen uiteen in twee categorieën, die beide aanzienlijke beperkingen hebben:

1. Zeroth-order optimalisatie: Het behandelen van het probleem als een afgeleide-vrije optimalisatie (bijv. met behulp van eindverschillen). Dit lijdt onder trage convergentie en de vloek van dimensionaliteit omdat het de distributiemap $\theta \mapsto Q_\theta$ niet expliciet modelleert.
2. Microfoundation modellering: Ervan uitgaan dat agenten een specif kind model volgen (bijv. kosten-gecorrigeerde nutmaximalisatie). Hoewel dit snellere optimalisatie-algoritmen mogelijk maakt door "white-box" toegang te bieden tot de distributiemap, zijn deze modellen vaak misspecified (verkeerd gespecificeerd). Als de aangenomen kostenfunctie van de agent incorrect is, is de resulterende distributiemap foutief, wat leidt tot suboptimale of inconsistente voorspellers.

De auteurs stellen een methodologie voor om de microfoundation van agentreacties direct uit data te extraheren. Specifiek beogen zij de onbekende kostenfunctie $c$ te leren die bepaalt hoe agenten hun attributen $Z$ wijzigen als reactie op een model $\theta$, uitgaande van een bekende voordeelfunctie $B_\theta$.

2. Methodologie

2.1 Agent Reactiemodel

De auteurs hanteren het standaard raamwerk voor performatieve voorspelling waarbij agenten rationeel zijn. Bij blootstelling aan een model $\theta$, werkt een agent met attributen $Z$ zichzelf bij naar $Z'$ door het volgende probleem op te lossen:
$$T_\theta(Z) \in \arg\max_{z' \in \mathcal{Z}} \{ B_\theta(z') - c(Z, z') \}$$
Hierbij is $B_\theta$ het bekende voordeel (bijv. de output van het model) en $c$ de onbekende kosten van het wijzigen van attributen. De resulterende distributie is de push-forward maat $Q_\theta = (T_\theta)_\# P$, waarbij $P$ de pre-model (ex-ante) distributie is.

2.2 Identificeerbaarheid en Bregman Divergenties

De auteurs merken op dat het schatten van een algemene bivariate kostenfunctie $c(z, z')$ onmogelijk is met een eindig aantal monsters uit een eindig aantal distributies. Om dit aan te pakken, beperken zij de kostenfunctie tot de klasse van Bregman divergenties:
$$c_\phi(z, z') = \phi(z') - \phi(z) - \nabla\phi(z)^\top(z' - z)$$
waarbij $\phi$ een strikt convexe potentiaalfunctie is. Dit reduceert het schattingsprobleem van een complexe bivariate functie naar het schatten van de scalaire potentiaal $\phi(z)$, wat de identificeerbaarheidsvraagstukken verzacht.

2.3 Optimal Transport Schatting

De kern van de voorgestelde methode maakt gebruik van Optimal Transport (OT) om distributies uit te lijnen. Gebaseerd op de eerste-orde optimaliteitsvoorwaarde van het maximalisatieprobleem van de agent, leiden de auteurs af dat voor de ware potentiaal $\phi^*$:
$$(\nabla\phi^* - \nabla B_\theta)_\# Q_\theta = (\nabla\phi^*)_\# P$$
Dit impliceert dat de push-forward van de ex-post distributie $Q_\theta$ onder de afbeelding $(\nabla\phi^* - \nabla B_\theta)$ identiek is aan de push-forward van de ex-ante distributie $P$ onder $\nabla\phi^*$.

De auteurs stellen voor om $\phi$ te schatten door een "barycenter" distributie $\mu$ te vinden die de som van de gekwadrateerde 2-Wasserstein afstanden tot deze push-forward distributies minimaliseert. Het optimalisatieprobleem is:
$$\arg\min_{\phi \in \Phi_{cvx}} \min_{\mu \in \Delta(\mathcal{Z})} \left[ W_2^2(\mu, (\nabla\phi)_\# P) + \sum_{k=1}^m W_2^2(\mu, (\nabla\phi - \nabla B_{\theta_k})_\# Q_{\theta_k}) \right]$$
Dit wordt opgelost via een block coordinate descent algoritme (Algoritme 1), waarbij afwisselend de barycenter $\mu$ en de potentiaal $\phi$ worden bijgewerkt.

2.4 Scenario's

De methode is toepasbaar in twee settings:

1. Ex-ante en Ex-post: De leerder heeft monsters van zowel de pre-deployment distributie $P$ als meerdere post-deployment distributies $Q_{\theta_k}$.
2. Alleen Ex-post: De leerder heeft alleen toegang tot post-deployment distributies $Q_{\theta_k}$, waarbij $\phi$ wordt geschat door de push-forwards van deze distributies onder verschillende $\theta_k$ uit te lijnen.

3. Belangrijkste Bijdragen

1. Schattingmethode: Een nieuwe methode voor het schatten van de kostenfunctie (binnen de klasse van Bregman divergenties) van een nut-maximaliserend microfoundation model. De methode berust op het matchen van pre-model en post-model distributies met behulp van optimal transport.
2. Theoretische Analyse:
   • Identificeerbaarheid: De auteurs bieden voorwaarden waaronder de kostenfunctie identificeerbaar is vanuit de data (bijv. Corollary 4.2 toont identificeerbaarheid met één ex-ante en één ex-post distributie als de voordeelfunctie strikt concaaf is).
   • Convergentie-snelheden: Zij stellen een convergentiesnelheid vast van $O(n^{-2/d})$ voor de geschatte parameters onder sterke convexiteitsveronderstellingen, afgeleid van empirische Wasserstein-afstand convergentieresultaten.
3. Empirische Validatie: Numerieke experimenten op een kredietscore-dataset demonstreren het vermogen van de methode om kosten te schatten en downstream taken te verbeteren (performative risk minimization).

4. Experimentele Resultaten

De auteurs evalueerden hun methode met een semi-synthetische setup gebaseerd op een echte kredietscore-dataset (Kaggle), waarbij agenten strategisch kenmerken manipuleren om wanbetaling te voorkomen.

• Robuustheid tegen Misspecificatie: In experimenten waar de voordeelfunctie $B_\theta$ verkeerd gespecificeerd was (bijv. uitgaan van een logaritmisch voordeel terwijl de waarheid een wortelfunctie was), werd de schatting van de afgeleide van de potentiaal $\phi'$ vertekend. Echter, de resulterende responsmap $T_\theta$ bleef robuust en de voorspellende prestaties werden niet significant verslechterd. Dit suggereert dat de methode fouten in de specificatie van de voordeelfunctie kan tolereren.
• Convergentie: De schattingsfout voor de responsmap $T_\theta$ nam af naarmate de steekproefomvang toenam, wat consistent is met de theoretische voorspellingen.
• Performative Risk Minimization: Wanneer toegepast om performative risico te minimaliseren (het vinden van de optimale classifier $\theta$), convergeerde de voorgestelde methode aanzienlijk sneller naar de optimale oplossing (Oracle) vergeleken met baselines:
  • Repeated Gradient Descent (RGD) en Performative Gradient Descent (PerfGD): Deze zeroth-order of gedeeltelijk gespecificeerde methoden vertoonden tragere convergentie en faalden in sommige gevallen om de oracle te bereiken door aannames (bijv. Gaussianiteit in PerfGD) die niet standhielden.
  • Least Squares (LS): Een tweestapsmethode die een lineaire respons aanneemt.
  • Resultaat: De voorgestelde methode behaalde competitieve prestaties en convergeerde naar de oracle naarmate het aantal gepubliceerde classifiers (steekproefomvang) toenam.

5. Betekenis en Claims

Het artikel claimt dat een nauwkeurige inferentie van de microfoundations van agenten een cruciale stap is voor het implementeren van sociaal verantwoorde en effectieve modellen in strategische omgevingen. Door de kostenfunctie uit data te leren in plaats van een misspecificeerd model aan te nemen, kunnen beoefenaars:

• Snel convergerende optimalisatie-algoritmen gebruiken die expliciete kennis van de distributiemap vereisen, waardoor de trage convergentie van afgeleide-vrije methoden wordt vermeden.
• Modellen implementeren met gemoedsrust over misspecificatie, aangezien de methode robuust is tegen fouten in de specificatie van de voordeelfunctie.
• Beter begrijpen van de lange-termijn impact van voorspellende modellen op populaties, wat de handhaving van eerlijkheid en andere sociale beperkingen vergemakkelijkt.

De auteurs concluderen dat hoewel hun werk zich richt op strategische agenten, het bredere probleem van het leren van distributieverschuivingen in niet-strategische performatieve settings een open gebied blijft voor toekomstig onderzoek. De code voor de implementatie is publiekelijk beschikbaar gemaakt.