Optimal Regularization for Performative Learning

Résumé Technique : Régularisation Optimale pour l'Apprentissage Performatif

Énoncé du Problème
Dans l'apprentissage performatif, la distribution des données réagit au modèle déployé, créant une boucle de rétroaction où des utilisateurs stratégiques adaptent leurs caractéristiques pour manipuler le système ou des prophéties autoréalisatrices modifient les résultats (par exemple, dans l'approbation de prêts ou la police prédictive). Cette dynamique complique l'apprentissage supervisé standard, car l'optimisation pour la distribution de données actuelle peut orienter la distribution vers un nouvel état potentiellement pire. Bien que les méthodes existantes tentent d'estimer et d'optimiser ces effets performatifs, elles reposent souvent sur des déploiements répétés et une caractérisation précise du décalage de distribution, ce qui est irréalisable dans des contextes à haute dimension ou lorsque le déploiement est limité à une seule instance après l'entraînement (Minimisation du Risque Répété, ou RRM). Le document traite du défi consistant à atténuer ces effets sans estimer explicitement le décalage de distribution, en se concentrant plutôt sur le rôle de la régularisation.

Méthodologie
Les auteurs étudient l'impact de la régularisation de Ridge dans la régression linéaire sous des effets performatifs, en analysant deux régimes distincts :

1. Régime de Population : Un cadre disposant de suffisamment de données pour récupérer exactement les coefficients de régression à chaque déploiement. Les auteurs modélisent l'effet performatif comme un décalage linéaire dans l'étiquette ($y = x^\top \theta^*_{pop} + x^\top D\theta + w$), où $D$ encode la performativité. Ils dérivent le point fixe de la séquence RRM et analysent l'excès de risque en fonction du paramètre de régularisation $\lambda$.
2. Régime Sur-paramétré : Un cadre de haute dimension où le nombre de caractéristiques $p$ dépasse le nombre d'échantillons $n$ ($p/n = \kappa > 1$). Ici, les auteurs emploient des outils de statistiques de haute dimension pour établir un équivalent déterministe du risque au point fixe performatif. Celui-ci dépend uniquement de la covariance de la population, des paramètres réels, de la matrice performative $D$ et de la force de la régularisation, effectuant ainsi une moyenne sur l'aléa des échantillons finis.

L'analyse distingue les caractéristiques prédictives (qui sont corrélées avec la véritable étiquette) et les caractéristiques fallacieuses (qui ne le sont pas), examinant comment la performativité interagit avec les deux, particulièrement lorsqu'elles sont corrélées via la matrice de covariance.

Contributions Clés et Résultats

• Résultats du Régime de Population :

  • Le paramètre de régularisation optimal $\lambda^*_{pop}$ s'avère proportionnel à la force de l'effet performatif ($\bar{b}$).
  • La régularisation atténue la perte de performance causée par la performativité. Un excès de risque nul peut être atteint si la covariance est isotrope et que l'effet performatif est uniforme à travers les caractéristiques.
  • En présence de structures de covariance complexes ou d'effets performatifs hautement variables, le risque reste significatif, mais la régularisation optimale offre toujours la meilleure atténuation possible.
  • Le document note que, dans certains cas, la régularisation optimale peut être négative (c'est-à-dire une « anti-régularisation »), un phénomène précédemment observé dans les contextes sur-paramétrés mais qui apparaît ici dans le cadre de la population en raison de la performativité.

• Résultats du Régime Sur-paramétré :

  • Les auteurs dérivent un équivalent déterministe pour le risque, révélant une phénoménologie nuancée concernant la direction de la régularisation optimale :
    • Faible Bruit : Lorsque la variance du bruit est faible, la régularisation optimale se déplace dans la même direction que l'effet performatif sur les caractéristiques prédictives.
    • Bruit Élevé : Lorsque la variance du bruit est grande, la régularisation optimale se déplace dans la direction opposée à l'effet performatif. Cela est interprété comme le fait que le modèle revient à son « a priori » lorsque le bruit domine.
  • Amélioration du Risque : Contrairement au régime de population où la performativité aggrave le risque, le document trouve que dans le régime sur-paramétré, si la performativité renforce les tendances existantes ( $\bar{b}$ positif), le risque régularisé de manière optimale peut en réalité s'améliorer par rapport au cas non performatif.
  • Caractéristiques Fallacieuses : L'effet de la performativité sur les caractéristiques fallacieuses est généralement atténué par le facteur $\rho^2$ (la corrélation entre les caractéristiques prédictives et fallacieuses), rendant son impact sur la régularisation optimale et le risque moins prononcé que sur les caractéristiques prédictives.

• Validation Empirique :

  • Des expériences sur des données synthétiques et des jeux de données réels (Housing et LSAC) confirment les prédictions théoriques.
  • Dans le cadre de type population (grand $n$), la régularisation optimale augmente avec la force de la performativité, et le risque augmente avec la performativité.
  • Dans le cadre sur-paramétré (petit $n$), le comportement s'aligne sur la prédiction théorique de bruit élevé : la régularisation optimale diminue à mesure que la force de la performativité augmente, et le risque s'améliore.
  • Les conclusions s'étendent au-delà de la régression Ridge à d'autres régulariseurs (Dropout, Lasso, Elastic Net) et même aux réseaux de neurones dans un contexte de classification stratégique, suggérant la robustesse du phénomène.

Signification et Revendications
Le document affirme être le premier à utiliser des outils statistiques de haute dimension pour étudier l'apprentissage performatif. Sa principale signification réside dans la démonstration que la régularisation est un mécanisme fondé, traçable et agnostique pour faire face aux effets performatifs, même lorsque la nature exacte du décalage de distribution est inconnue.

Les auteurs soutiennent que, bien que les méthodes basées sur l'estimation soient limitées aux contextes de faible dimension ou aux exemples simplistes, la régularisation offre une solution pratique pour les scénarios du monde réel où le déploiement est coûteux et répété. Ce travail suggère que les praticiens peuvent anticiper les décalages performatifs et ajuster la régularisation en conséquence (en l'ajustant selon la force attendue de l'effet) pour améliorer la robustesse et la performance des modèles. Le document maintient un ton modeste, reconnaissant que si la théorie se concentre sur les modèles linéaires et les données aléatoires, les résultats empiriques sur des données réelles et des réseaux de neurones suggèrent que ces intuitions se généralisent, bien que des travaux supplémentaires soient nécessaires pour explorer des données et des modèles plus complexes.