Résumé Technique : Inférence des Microfondations pour la Prédiction Stratégique

1. Énoncé du Problème

L'article traite du défi de la prédiction performative, un scénario où un modèle prédictif $\theta$ influence la distribution de la variable cible car les parties prenantes (agents) adoptent des actions stratégiques pour maximiser leur utilité en réponse au modèle. Ce phénomène, souvent décrit par la loi de Campbell, crée un décalage de distribution où la distribution des données $Q_\theta$ est une fonction du prédicteur $\theta$.

Un goulot d'étranglement critique dans l'application de la théorie de la prédiction performative est l'inconnue du mécanisme de ce décalage de distribution. Les approches existantes se divisent généralement en deux catégories, présentant toutes deux des limitations significatives :

1. Optimisation du second ordre (zeroth-order) : Traiter le problème comme une optimisation sans dérivée (par exemple, en utilisant des différences finies). Cela souffre d'une convergence lente et de la malédiction de la dimensionnalité car cela ne modélise pas explicitement la carte de distribution $\theta \mapsto Q_\theta$.
2. Modélisation par microfondations : Supposer que les agents suivent un modèle de réponse spécifique (par exemple, la maximisation de l'utilité ajustée par les coûts). Bien que ces modèles permettent des algorithmes d'optimisation plus rapides en fournissant un accès "boîte blanche" à la carte de distribution, ils sont souvent mal spécifiés. Si la fonction de coût supposée de l'agent est incorrecte, la carte de distribution résultante est erronée, conduisant à des prédicteurs sous-optimaux ou incohérents.

Les auteurs proposent une méthodologie pour inférer la microfondation des réponses des agents directement à partir des données. Plus précisément, ils visent à apprendre la fonction de coût $c$ inconnue qui régit la manière dont les agents modifient leurs attributs $Z$ en réponse à un modèle $\theta$, en supposant que la fonction de bénéfice $B_\theta$ est connue.

2. Méthodologie

2.1 Modèle de Réponse de l'Agent

Les auteurs adoptent le cadre standard de la prédiction performative où les agents sont rationnels. Suite à l'exposition à un modèle $\theta$, un agent possédant des attributs $Z$ évolue vers $Z'$ en résolvant :
$$T_\theta(Z) \in \arg\max_{z' \in \mathcal{Z}} \{ B_\theta(z') - c(Z, z') \}$$
Ici, $B_\theta$ est le bénéfice connu (par exemple, la sortie du modèle), et $c$ est le coût inconnu du changement d'attributs. La distribution résultante est la mesure de poussée $Q_\theta = (T_\theta)_\# P$, où $P$ est la distribution pré-modèle (ex-ante).

2.2 Identifiabilité et Divergences de Bregman

Les auteurs notent qu'estimer une fonction de coût bivariate générale $c(z, z')$ est impossible avec des échantillons finis provenant d'un nombre fini de distributions. Pour y remédier, ils restreignent la fonction de coût à la classe des divergences de Bregman :
$$c_\phi(z, z') = \phi(z') - \phi(z) - \nabla\phi(z)^\top(z' - z)$$
où $\phi$ est une fonction de potentiel strictement convexe. Cela réduit le problème d'estimation d'une fonction bivariate complexe à l'estimation du scalaire $\phi(z)$, atténuant ainsi les problèmes d'identifiabilité.

2.3 Estimation par Transport Optimal (OT)

Le cœur de la méthode proposée exploite le Transport Optimal (OT) pour aligner les distributions. En se basant sur la condition d'optimalité du premier ordre du problème de maximisation de l'agent, les auteurs en déduisent que pour le véritable potentiel $\phi^*$ :
$$(\nabla\phi^* - \nabla B_\theta)_\# Q_\theta = (\nabla\phi^*)_\# P$$
Cela implique que la mesure de poussée de la distribution ex-post $Q_\theta$ sous l'application $(\nabla\phi^* - \nabla B_\theta)$ est identique à la mesure de poussée de la distribution ex-ante $P$ sous $\nabla\phi^*$.

Les auteurs proposent d'estimer $\phi$ en trouvant une distribution "barycentre" $\mu$ qui minimise la somme des distances de Wasserstein de second ordre vers ces mesures de poussée. Le problème d'optimisation est :
$$\arg\min_{\phi \in \Phi_{cvx}} \min_{\mu \in \Delta(\mathcal{Z})} \left[ W_2^2(\mu, (\nabla\phi)_\# P) + \sum_{k=1}^m W_2^2(\mu, (\nabla\phi - \nabla B_{\theta_k})_\# Q_{\theta_k}) \right]$$
Ceci est résolu via un algorithme de descente de coordonnées par blocs (Algorithme 1), alternant entre la mise à jour du barycentre $\mu$ et du potentiel $\phi$.

2.4 Scénarios

La méthode est applicable dans deux contextes :

1. Ex-ante et Ex-post : L'apprenant dispose d'échantillons de la distribution pré-déploiement $P$ et de plusieurs distributions post-déploiement $Q_{\theta_k}$.
2. Ex-post uniquement : L'apprenant n'a accès qu'aux distributions post-déploiement $Q_{\theta_k}$, estimant $\phi$ en alignant les mesures de poussée de ces distributions sous différents $\theta_k$.

3. Contributions Clés

1. Méthode d'Estimation : Une nouvelle méthode pour estimer la fonction de coût (au sein de la classe des divergences de Bregman) d'un modèle de microfondation de maximisation d'utilité. La méthode repose sur l'alignement des distributions pré-modèle et post-modèle en utilisant le transport optimal.
2. Analyse Théorique :
   • Identifiabilité : Les auteurs fournissent les conditions sous lesquelles la fonction de coût est identifiable à partir des données (par exemple, le Corollaire 4.2 montre l'identifiabilité avec une distribution ex-ante et une ex-post si la fonction de bénéfice est strictement concave).
   • Taux de Convergence : Ils établissent un taux de convergence de $O(n^{-2/d})$ pour les paramètres estimés sous des hypothèses de forte convexité, dérivé des résultats de convergence de la distance de Wasserstein empirique.
3. Validation Empirique : Des expériences numériques sur un ensemble de données de notation de crédit démontrent la capacité de la méthode à estimer les coûts et à améliorer les tâches en aval (minimisation du risque performatif).

4. Résultats Expérimentaux

Les auteurs ont évalué leur méthode à l'aide d'un montage semi-synthétique basé sur un ensemble de données réel de notation de crédit (Kaggle), où les agents manipulent stratégiquement les caractéristiques pour éviter la classification de défaut de paiement.

• Robustesse à la spécification erronée : Dans les expériences où la fonction de bénéfice $B_\theta$ était mal spécifiée (par exemple, en supposant un bénéfice logarithmique alors que la vérité était une racine carrée), l'estimation de la dérivée du potentiel $\phi'$ est devenue biaisée. Cependant, la carte de réponse $T_\theta$ est restée robuste, et la performance prédictive n'a pas été significativement dégradée. Cela suggère que la méthode peut tolérer des erreurs dans la spécification de la fonction de bénéfice.
• Convergence : L'erreur d'estimation de la carte de réponse $T_\theta$ a diminué à mesure que la taille de l'échantillon augmentait, ce qui est cohérent avec les prédictions théoriques.
• Minimisation du Risque Performatif : Lorsqu'elle est appliquée pour minimiser le risque performatif (trouver le classificateur optimal $\theta$), la méthode proposée a convergé nettement plus rapidement vers la solution optimale (Oracle) par rapport aux bases de référence :
  • Gradient Descendant Répété (RGD) et Gradient Descendant Performatif (PerfGD) : Ces méthodes de second ordre ou partiellement spécifiées ont montré une convergence plus lente et, dans certains cas, n'ont pas réussi à atteindre l'oracle en raison d'hypothèses (ex: la gaussianité dans PerfGD) qui ne tenaient pas.
  • Moindres Carrés (LS) : Une méthode en deux étapes supposant une réponse linéaire.
  • Résultat : La méthode proposée a obtenu des performances compétitives, convergeant vers l'oracle à mesure que le nombre de classificateurs publiés (taille de l'échantillon) augmentait.

5. Signification et Revendications

L'article affirme qu'une inférence précise des microfondations des agents est une étape cruciale pour le déploiement de modèles socialement responsables et efficaces dans des contextes stratégiques. En apprenant la fonction de coût à partir des données plutôt qu'en supposant un modèle mal spécifié, les praticiens peuvent :

• Utiliser des algorithmes d'optimisation à convergence rapide qui nécessitent une connaissance explicite de la carte de distribution, évitant ainsi la convergence lente des méthodes sans dérivée.
• Déployer des modèles avec une tranquillité d'esprit concernant la spécification erronée, car la méthode est robuste aux erreurs de la fonction de bénéfice.
• Mieux comprendre les impacts à long terme des modèles prédictifs sur les populations, facilitant l'application de la justice (fairness) et d'autres contraintes sociales.

Les auteurs concluent que bien que leur travail se concentre sur les agents stratégiques, le problème plus large de l'apprentissage des décalages de distribution dans des contextes performatifs non stratégiques reste un domaine ouvert pour la recherche future. Le code de l'implémentation est rendu public.