Résumé Technique : Déploiement Stratégiquement Déceptif de Modèles en Prédiction Performative

Énoncé du Problème

Les systèmes d'Apprentissage Automatique (ML) opèrent de plus en plus dans des environnements où leur déploiement influence le comportement des utilisateurs, ce qui modifie à son tour la distribution des données pour les décisions futures. Ce phénomène est formalisé sous le nom de Prédiction Performative (PP). Dans les cadres PP standards, il est implicitement supposé que le modèle gouvernant les décisions institutionnelles est identique au modèle observé par les utilisateurs, auquel ils adaptent leur comportement.

Cependant, dans les déploiements réels, cette hypothèse échoue souvent. Les institutions peuvent divulguer un modèle simplifié ou sélectionné ($\theta_D$) aux utilisateurs pour façonner leur comportement, tout en s'appuyant en interne sur un modèle distinct et opaque ($\theta_M$) pour prendre les décisions réelles. Ce découplage crée un décalage stratégique : les utilisateurs s'adaptent à $\theta_D$, mais les résultats sont déterminés par $\theta_M$. La littérature PP existante ne prend pas en compte cette asymétrie d'information, risquant de négliger la manière dont les institutions peuvent exploiter les retours performatifs par une représentation stratégique erronée pour obtenir de meilleurs résultats pour elles-mêmes, souvent au détriment du bien-être des utilisateurs.

Méthodologie : Prédiction Performative Découplée (DPP)

Les auteurs introduisent la Prédiction Performative Découplée (DPP), un cadre qui modélise explicitement le décalage entre le modèle de décision déployé et le modèle divulgué.

Formalisme Central

• Risque Performative Découplé (DPR) : Le cadre définit une fonction de risque $DPR(\theta_D, \theta_M) = \mathbb{E}_{z \sim D(\theta_D)}[\ell(z; \theta_M)]$. Ici, la distribution de données $D$ est induite par le modèle divulgué $\theta_D$, mais la perte $\ell$ est évaluée en utilisant le vrai modèle de décision $\theta_M$.
• Espace d'Optimisation : Contrairement à la PP standard, qui optimise un seul paramètre $\theta$, la DPP optimise sur l'espace conjoint $(\theta_D, \theta_M)$.
• Optimum Découplé : Les auteurs définissent l'optimum découpé $(\theta^*_D, \theta^*_M)$ comme la paire minimisant le DPR. Ils prouvent que cet optimum peut atteindre un risque strictement inférieur à l'optimum performative standard ($\theta_{OP}$) trouvé dans la PP classique, à condition que l'optimum performative ne soit pas un point stable (c'est-à-dire $\theta_{OP} \neq \theta^{BR}_M(\theta_{OP})$).

Approche Algorithmique

Pour trouver l'optimum découpé, l'article propose la Descente de Gradient Performative Découplée (DPerfGD).

• Hypothèses : La méthode suppose que la fonction de perte est conjointement convexe en $(\theta_M, \theta_D)$ et que la carte de distribution suit un modèle de poussée en avant (push-forward) où la transformation est affine par rapport à $\theta_D$.
• Calcul du Gradient : L'algorithme calcule les gradients pour les deux paramètres :
  • $\nabla_{\theta_M}$ est calculé via l'espérance standard sur la distribution induite.
  • $\nabla_{\theta_D}$ utilise l'astuce de reparamétrisation (en supposant un modèle de poussée en avant) pour différencier à travers la carte de distribution, permettant à l'institution d'optimiser la manière dont le modèle divulgué façonne les données.
• Convergence : Sous les hypothèses de convexité et d'affinité énoncées, les auteurs prouvent que DPerfGD converge vers l'optimum découpé global.

Coût de la Déception

Pour analyser la durabilité de telles stratégies déceptives, l'article introduit le coût de la déception, une mesure quantitative de l'écart entre $\theta_D$ et $\theta_M$.

• Coût basé sur les paramètres : Proportionnel à $\|\theta_D - \theta_M\|_2$.
• Coût perçu : Proportionnel à la différence attendue des sorties du modèle, $\mathbb{E}[|f_{\theta_D}(z) - f_{\theta_M}(z)|]$.
• Optimisation Contrainte : Les auteurs modélisent des institutions intégrant les risques réputationnels ou réglementaires en résolvant un problème d'optimisation contraint (minimisation du DPR sous réserve d'une borne de coût de déception) ou en ajoutant un terme de régularisation. Ils démontrent que même avec ces contraintes auto-imposées, les institutions peuvent encore réaliser une réduction significative du risque tout en maintenant un coût de déception élevé, suggérant que les contraintes volontaires sont insuffisantes pour protéger les utilisateurs.

Résultats Clés

1. Supériorité du Découplage : L'analyse théorique (Théorème 4.5) et les résultats expérimentaux montrent que l'optimum découpé surpasse strictement l'optimum performative standard en termes de risque institutionnel (ou de revenus dans les scénarios de tarification), à condition que l'optimum standard ne soit pas stable.
2. Garanties de Convergence : L'algorithme DPerfGD est démontré comme convergeant prouvablement vers l'optimum découpé sous des hypothèses standards de convexité et de poussée en avant.
3. Inefficacité de l'Auto-régulation : Les expériences sur des données de tarification synthétiques et le jeu de données "Give Me Some Credit" démontrent que lorsque les institutions optimisent avec une pénalité de coût de déception, elles tendent à sélectionner de faibles poids de pénalité pour maintenir une haute performance. Par conséquent, le coût de déception résultant reste élevé, laissant les utilisateurs exposés à des préjudices significatifs.
4. Écart Quantifiable : L'article établit des bornes sur l'écart de risque entre l'optimum performative et l'optimum découpé, montrant que cet écart est directement lié à l'ampleur de la divergence entre les modèles divulgués et déployés.

Signification et Revendications

L'article soutient que la divulgation de modèles n'est pas simplement une question éthique ou de transparence, mais une décision fondamentale de conception technique qui altère radicalement les dynamiques d'apprentissage et les résultats de bien-être dans les systèmes performatifs.

• Nouvelle Vulnérabilité : Le travail identifie un mécanisme de pouvoir performative précédemment non modélisé : les institutions peuvent exploiter l'asymétrie d'information pour orienter le comportement des utilisateurs via des divulgations déceptives tout en conservant le contrôle sur les critères de décision réels.
• Implications Réglementaires : Les résultats suggèrent que les approches d'auto-régulation actuelles ou la dépendance à la « liberté de choix » des utilisateurs sont insuffisantes. L'article appelle à une surveillance réglementaire et à des mécanismes de responsabilité traitant la divulgation de modèles comme un objet central de gouvernance, comparable aux réglementations sur la publicité trompeuse ou la protection des consommateurs.
• Recadrage Technique : En formalisant le découplage entre décision et divulgation, l'article recadre l'étude de la prédiction performative pour inclure la représentation stratégique erronée, soulignant que la « vérité » des paramètres d'un modèle est moins pertinente pour le comportement des utilisateurs que la « perception » de ces paramètres.

Les auteurs concluent que sans contraintes externes, les institutions ont un fort incitatif, prouvable, à s'engager dans un déploiement stratégiquement déceptif, nécessitant de nouvelles garanties techniques et juridiques pour protéger les individus dans les systèmes de décision algorithmique.