Sintesi Tecnica: Predizione Parzialmente Performativa

Definizione del Problema

Il documento affronta i limiti degli attuali framework di predizione performativa, che modellano gli spostamenti di distribuzione come puramente endogeni (indotti dal modello $\theta$ distribuito). Nella predizione performativa classica, la distribuzione dei dati $D(\theta)$ cambia esclusivamente in risposta alle azioni dell'apprendente. Tuttavia, gli autori osservano che in domini consequenziali realistici (ad esempio, finanza, sanità, politiche pubbliche), gli spostamenti di distribuzione sono raramente puramente endogeni. Sono spesso guidati da una miscela tra l'influenza del modello e fattori esogeni (ad esempio, effetti stagionali, forze di mercato, cambiamenti nelle politiche) che evolvono indipendentemente dall'apprendente.

Per catturare questa interazione, il documento introduce la Predizione Parzialmente Performativa. In questo contesto, la distribuzione dei dati al tempo $t$ è una miscela variabile nel tempo:
$$D_t(\theta) = (1 - \alpha_t)D(\theta) + \alpha_t P_t$$
dove:

• $D(\theta)$ è la componente performativa dipendente dal modello $\theta$.
• $P_t$ è una distribuzione esogena che evolve nel tempo indipendentemente da $\theta$.
• $\alpha_t \in [0, 1]$ controlla la forza relativa dello spostamento esogeno.

Questo framework generalizza la predizione performativa classica (recuperata quando $\alpha_t = 0$) e si avvicina a un setting di spostamento puramente esogeno (quando $\alpha_t = 1$). La sfida centrale è che il "target" (il modello ottimale o stabile) non è più statico; esso deriva a causa sia delle azioni dell'apprendente sia dell'evoluzione esterna di $P_t$.

Metodologia e Framework

1. Ridefinizione degli Obiettivi: Regret Dinamico

Poiché l'ambiente è non stazionario, l'obiettivo di convergere verso un singolo modello fisso (come nella stabilità o ottimalità performativa) è insufficiente. Gli autori propongono di misurare le prestazioni tramite il regret dinamico rispetto a sequenze di benchmark variabili nel tempo:

• Regret di Stabilità Performativa ($Reg^{PS}_T$): Confronta la sequenza dell'apprendente $\{\theta_t\}$ con la sequenza dei punti performativamente stabili $\{\theta^{PS}_t\}$, dove $\theta^{PS}_t$ minimizza il rischio disaccoppiato data la distribuzione indotta da $\theta^{PS}_t$.
• Regret di Ottimalità Performativa ($Reg^{PO}_T$): Confronta l'apprendente contro la sequenza dei punti performativamente ottimali $\{\theta^{PO}_t\}$, che minimizzano il rischio performativo $PR_t(\theta) = \mathbb{E}_{Z \sim D_t(\theta)}[\ell(Z, \theta)]$.

2. Strumento Analitico Chiave: Lunghezza del Percorso (Path Length)

Una quantità centrale nei limiti teorici è la lunghezza del percorso, definita come il movimento cumulativo della sequenza di confronto:
$$\sum_{t=1}^{T-1} \Delta^{PS}_t \quad \text{dove} \quad \Delta^{PS}_t = \|\theta^{PS}_t - \theta^{PS}_{t+1}\|$$
Il documento stabilisce che i limiti di regret dipendono esplicitamente da questa lunghezza del percorso, che è guidata dal tasso di variazione della distribuzione esogena $P_t$ e dal coefficiente di miscela $\alpha_t$.

3. Algoritmi Analizzati

Il documento analizza diverse euristiche di apprendimento standard adattate a questo setting:

• Minimizzazione del Rischio Ripetuta (RRM): Aggiorna $\theta_{t+1} = \arg\min_\theta \mathbb{E}_{Z \sim D_t(\theta_t)}[\ell(Z, \theta)]$.
• Discesa del Gradiente Ripetuta (RGD): Utilizza gradienti attesi completi.
• Discesa del Gradiente Stocastica (SGD): Include varianti "greedy" (un campione per distribuzione) e "lazy" (molteplici campioni/aggiornamenti per distribuzione).
• Algoritmi di Ordine Zero: Utilizzati per l'ottimalità performativa dove i gradienti del rischio performativo sono intrattabili. Questi includono i metodi Two-Deployment (ZGD2) e Single-Deployment (ZGD) che perturbano il modello per stimare i gradienti.

Contributi Chiave e Risultati

1. Limiti Teorici per la Stabilità

Gli autori derivano limiti di regret per RRM e RGD che mettono esplicitamente in relazione gli spostamenti endogeni ed esogeni.

• Teorema 3.2 (RRM): Sotto ipotesi di forte convessità e regolarità (smoothness), il regret di stabilità è limitato da:
  $$Reg^{PS}_T(ARRM) = O\left(1 + \sum_{t=1}^{T-1} \Delta^{PS}_t\right)$$
  Il fattore di contrazione richiesto per la convergenza è rilassato rispetto al setting classico: $\epsilon < \frac{\mu}{(1-\alpha_{\min})\beta_z}$.
• Insight: Quando gli spostamenti sono prevalentemente performativi ($\alpha_t \approx 0$), la lunghezza del percorso svanisce e il regret è costante. Quando gli spostamenti sono prevalentemente esogeni ($\alpha_t \approx 1$), il regret dipende dalla non-stazionarietà di $P_t$. Se $P_t$ fluttua rapidamente, il regret può essere elevato; se $P_t$ è quasi costante, il regret rimane basso.

2. Limiti Teorici per l'Ottimalità

Per l'ottimalità performativa, il documento utilizza tecniche di ottimizzazione di ordine zero.

• Teoremi 5.2 & 5.3: Gli autori forniscono limiti di regret per algoritmi di ordine zero a due deployment e a singolo deployment. I limiti scalano con la dimensione $d$, l'orizzonte temporale $T$ e la lunghezza del percorso della sequenza ottimale $\sum \Delta^{PO}_t$.
• Compromesso di Convessità: Il documento nota che, sebbene un componente esogeno elevato ($\alpha_t \approx 1$) renda più difficile il tracciamento del target (aumentando la lunghezza del percorso), esso rende anche il rischio performativo più propenso alla convessità (poiché la parte esogena è convessa se lo è la perdita). Al contrario, un forte feedback endogeno può rendere il rischio performativo non convesso anche se la perdita è convessa.

3. Validazione Empirica

Esperimenti su un dataset di credit scoring (modello di risposta strategica) e dati gaussiani sintetici validano i risultati teorici:

• Spostamenti Esogeni Casuali: Un decadimento più rapido di $\alpha_t$ (riducendo il peso del termine esogeno mobile) porta a un regret inferiore.
• Spostamenti Esogeni Stazionari: Mantenere $\alpha_t$ più grande (più vicino a una distribuzione fissa, non performativa) produce un regret inferiore.
• Le curve di regret empirico si allineano ai limiti superiori teorici riguardo all'ordine dei diversi programmi di $\alpha_t$.

Significato e Rivendicazioni

Il documento sostiene di fornire il primo framework che unifica gli spostamenti di distribuzione endogeni ed esogeni sotto un unico modello di apprendimento. La sua importanza primaria risiede in:

1. Generalizzazione: Generalizza strettamente la predizione performativa classica, mostrando che gli algoritmi standard (come RRM) rimangono efficaci ma richiedono una rivalutazione delle condizioni di convergenza in presenza di rumore esogeno.
2. Benchmarking Dinamico: Sposta il paradigma dagli equilibri statici al regret dinamico, riconoscendo che nei sistemi reali, il "miglior" modello è un bersaglio mobile.
3. Identificazione del Compromesso: Caratterizza esplicitamente il trade-off tra la difficoltà di tracciare un target mobile (drift esogeno) e la difficoltà di ottimizzare un paesaggio non convesso (feedback endogeno).

Gli autori rimangono modesti riguardo alle questioni aperte, notando che l'individuazione dei lower bound per i tassi di regret (particolarmente per la SGD greedy) e il rilassamento delle assunzioni di regolarità (convessità, sensibilità) rimangono aree aperte per la ricerca futura. Suggeriscono inoltre che le definizioni di regret possono estendersi naturalmente a modelli di miscela non lineari oltre l'attuale framework lineare.