Learning the Distribution Map in Reverse Causal Performative Prediction

Riepilogo Tecnico: Apprendimento della Mappa di Distribuzione nella Predizione Performativa con Causalità Inversa

1. Definizione del Problema

In molti scenari predittivi, in particolare all'interno del calcolo sociale e degli ambienti strategici, l'implementazione di un modello predittivo $\theta$ altera la distribuzione sottostante dei dati. Gli agenti adattano i propri attributi o comportamenti in risposta al modello per ottenere risultati favorevoli (ad esempio, candidati al lavoro che personalizzano i curricula o richiedenti prestiti che manipolano i propri profili). Questo fenomeno, noto come predizione performativa, crea uno spostamento della distribuzione in cui la distribuzione post-implementazione $D(\theta)$ differisce dalla distribuzione pre-implementazione.

Un ostacolo critico all'ottimizzazione del rischio performativo è che i professionisti spesso non hanno conoscenza della mappa di distribuzione $D(\theta)$, che descrive come la distribuzione cambi in funzione dei parametri del modello. Gli approcci esistenti trattano il problema o come un'ottimizzazione priva di derivate (soffrendo di una lenta convergenza e della maledizione della dimensionalità) o si affidano a modelli di microfondazione parametrici che possono essere errati. Questo articolo affronta la sfida di apprendere la mappa di distribuzione $D(\theta)$ in un contesto di causalità inversa, dove il modello influenza la distribuzione esclusivamente attraverso un insieme finito di azioni degli agenti.

2. Metodologia

Framework di Causalità Inversa
Gli autori riformulano il contesto performativo basandosi sul lavoro di Somerstep et al. (2024). Essi postulano che la distribuzione ex-post degli attributi $(X, Y)$ e delle azioni $A$ possa essere scomposta come:
$$D(\theta) = D_A(\theta) \times D(X, Y | A)$$
In questo caso, $D(X, Y | A)$ è la distribuzione condizionata di covariate e risposte dato un'azione, la quale si assume essere invariante rispetto al modello $\theta$. L'intero spostamento della distribuzione è guidato unicamente dalla distribuzione marginale delle azioni degli agenti, $D_A(\theta)$.

Microfondazione con Costi Casuali
Per apprendere $D_A(\theta)$, l'articolo introduce un framework di microfondazione ispirato al modello di mercato del lavoro di Coate-Loury, in cui gli agenti scelgono un'azione $a \in \mathcal{A}$ per massimizzare un'utilità corretta per i costi:
$$A \triangleq \arg \max_{a \in \mathcal{A}} B_a(\theta) - C_a$$
dove $B_a(\theta)$ è il beneficio noto dell'azione $a$ sotto il modello $\theta$, e $C_a$ è un costo casuale che rappresenta la preferenza idiosincratica o la barriera dell'agente nel compiere quell'azione.

• Generalità: A differenza dei modelli di predizione strategica standard che assumono costi deterministici (limitando gli agenti a un comportamento puramente strategico), l'inclusione di costi casuali permette al framework di rappresentare agenti non strategici e qualsiasi distribuzione arbitraria di spostamento $D_A(\theta)$, a condizione che la funzione di beneficio soddisfi determinati vincoli di monotonicità (Lemma 2.5).
• Obiettivo di Apprendimento: Poiché $B_a(\theta)$ è noto, il problema si riduce all'apprendimento della distribuzione dei costi casuali $\{C_a\}$, che a sua volta determina $D_A(\theta)$.

Stima Non Parametrica (Algoritmo 1)
Gli autori propongono un metodo non parametrico per stimare la mappa di distribuzione:

1. Raccolta Dati: Il discente implementa una sequenza di modelli $\theta_1, \dots, \theta_M$ e osserva le proporzioni risultanti delle azioni degli agenti $\hat{\pi}(\theta_m)$.
2. Formulazione: La probabilità che un agente scelga un'azione $a$ è espressa come una funzione di ripartizione (CDF) multivariata delle differenze di costo, vincolata dai benefici noti.
3. Ottimizzazione: La distribuzione dei costi è stimata risolvendo un problema di minimi quadrati con vincoli di forma monotona coordinata-per-coordinata (regressione isotonica). Ciò garantisce che la funzione stimata sia una valida funzione di ripartizione.
4. Stima dell'Azione: Se le azioni non sono direttamente osservabili, l'articolo suggerisce l'uso di tecniche di moment-matching (Lipton et al., 2018) per stimare le proporzioni delle azioni a partire dalle covariate osservate.

Design Sperimentale Ottimale (Algoritmi 2 & 3)
Per apprendere efficientemente la mappa di distribuzione e minimizzare il rischio performativo, l'articolo propone algoritmi di design sequenziale utilizzando un trucco del raddoppio (doubling trick):

• Densità di Design: L'algoritmo aggiorna iterativamente la distribuzione dei modelli implementati (densità di design) per concentrarsi nelle regioni in cui l'errore di stima (rumore) è più elevato.
• Esplorazione vs. Sfruttamento: Il processo è diviso in episodi. All'interno di ogni episodio, una parte è dedicata all'esplorazione (campionamento di modelli per affinare la stima della mappa di distribuzione) e il resto allo sfruttamento (implementazione del modello che minimizza il rischio performativo stimato).
• Minimizzazione del Regret: L'algoritmo bilancia la lunghezza delle fasi di esplorazione e sfruttamento per minimizzare il regret totale, definito come la differenza cumulativa tra il rischio dei modelli implementati e l'ottimo rischio performativo.

3. Contributi Chiave

1. Framework di Microfondazione: L'articolo introduce un modello di microfondazione con costi casuali che è sufficientemente generale da recuperare qualsiasi spostamento di distribuzione in un contesto di causalità inversa, accogliendo sia agenti strategici che non strategici.
2. Stima Non Parametrica: Fornisce un metodo non parametrico statisticamente giustificato (tramite regressione isotonica) per apprendere la mappa di distribuzione $D_A(\theta)$ senza assumere una specifica forma parametrica per il comportamento sottostante degli agenti.
3. Design Sequenziale Ottimale: Gli autori sviluppano un algoritmo sequenziale basato sul trucco del raddoppio che seleziona adattivamente i modelli da implementare. Questo algoritmo minimizza la perdita di efficienza relativa della densità di design stimata e raggiunge un limite specifico di regret.
4. Garanzie di Convergenza: L'articolo stabilisce tassi di convergenza teorica per la mappa di distribuzione stimata e per il rischio performativo. Nello specifico, il limite del regret è mostrato essere $\tilde{O}(M^{\frac{2\beta+1}{3\beta+1}})$, dove $\beta$ è il parametro di regolarità (smoothness) della mappa di distribuzione. Questo limite è indipendente dalla dimensione dei parametri del modello $\theta$, offrendo un vantaggio rispetto ai metodi che scalano con la dimensione.

4. Risultati

• Risultati Teorici:

  • Convergenza Uniforme: Sotto l'ipotesi di regolarità di Hölder e punti di design regolari, la CDF stimata converge uniformemente alla vera CDF con un tasso di $O((\log n / n)^{\alpha/(2\alpha+1)})$.
  • Limiti di Regret: L'algoritmo sequenziale raggiunge un regret totale di $\tilde{O}(M^{1/(1+\eta)})$, dove $\eta$ dipende dal tasso di convergenza dello stimatore della mappa di distribuzione. Per la regressione isotonica ($\eta=1/3$), il regret è $O(M^{3/4})$.
  • Confronto: Il limite di regret proposto è di un ordine inferiore rispetto ai limiti esistenti (ad es., Jagadeesan et al., 2022) quando la dimensione di $\theta$ è elevata, poiché lo spostamento della distribuzione dipende da $\theta$ solo attraverso una funzione di beneficio unidimensionale.

• Esperimenti Numerici:

  • Gli autori validano il loro approccio utilizzando il modello di mercato del lavoro Coate-Loury come baseline.
  • Le simulazioni dimostrano che la mappa di distribuzione stimata (utilizzando la regressione isotonica o spline quadratiche monotone) converge alla distribuzione reale.
  • L'algoritmo di design sequenziale riesce a guidare l'efficienza relativa della densità di design verso lo zero (ottimo) e a minimizzare il rischio performativo rispetto alle strategie non adattive.

5. Significato e Rivendicazioni

L'articolo sostiene che la sua importanza primaria risieda nel rendere la minimizzazione del rischio performativo più accessibile ai professionisti. Fornendo un framework per apprendere la mappa di distribuzione in modo non parametrico dai dati di risposta degli agenti, il metodo colma il divario tra la predizione performativa teorica e l'applicazione pratica in cui lo spostamento della distribuzione è sconosciuto.

Gli autori sottolineano che il loro framework di causalità inversa, pur essendo attualmente focalizzato su spazi di azione finiti, offre una struttura flessibile che può essere estesa ad arbitri spazi di azione (ad esempio, tramite modelli generativi) in lavori futuri. Posizionano il loro approccio come un complemento alla letteratura esistente: esso evita la lenta convergenza dell'ottimizzazione priva di derivate, mitigando al contempo i rischi di errata specificazione inerenti ai rigidi modelli di microfondazione parametrica. Il lavoro suggerisce che comprendere e apprendere la "mappa di distribuzione" è un passo cruciale verso un processo decisionale robusto in ambienti strategici.