💻 computer science

Partially Performative Prediction

Cet article introduit le cadre de la prédiction partiellement performative, qui généralise la prédiction performative traditionnelle en tenant compte à la fois des changements de distribution endogènes causés par le déploiement du modèle et des changements exogènes pilotés par des facteurs externes, tout en étendant les concepts de stabilité et d'optimalité pour analyser les heuristiques d'apprentissage adaptatif dans de tels environnements dynamiques.

Auteurs originaux : Jaewook Lee, Tijana Zrnic

Publié 2026-06-09

📖 7 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Jaewook Lee, Tijana Zrnic

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Le problème central : La prophétie autoréalisatrice

Imaginez que vous êtes un prévisionniste météorologique. Autrefois, votre travail était simple : regarder les nuages, prédire s'il allait pleuvoir, et avoir raison. La météo ne se souciait pas de ce que vous disiez ; elle se contentait d'arriver. C'est ce que les informaticiens appellent la « prédiction classique ».

Mais imaginez maintenant que vous êtes un analyste boursier. Si vous prédisez qu'une certaine action va monter, les gens pourraient l'acheter, ce qui fera réellement monter le prix. Votre prédiction a modifié la réalité que vous essayiez de prédire. C'est ce qu'on appelle la « prédiction performative ». Les données changent à cause de vos actions.

Le problème des modèles actuels :
La plupart des recherches existantes supposent l'un des deux extrêmes :

Purement performante : La seule raison pour laquelle les données changent est votre prédiction (comme dans l'exemple de la bourse).
Purement exogène : Les données changent pour des raisons totalement indépendantes de votre contrôle (comme la météo qui change à cause d'un ouragan), et vos prédictions n'ont aucun impact dessus.

La réalité :
Dans le monde réel, il s'agit presque toujours d'un mélange des deux.

Exemple : Un algorithme de score de crédit prédit qui est susceptible de faire défaut sur un prêt.
- Partie performative : Si la banque refuse des prêts à certaines personnes, ces personnes peuvent changer de comportement (ou arrêter de postuler), modifiant ainsi les données.
- Partie exogène : L'économie s'effondre, ou une nouvelle loi est adoptée. Ces événements modifient les données indépendamment de ce que dit l'algorithme.

Ce papier introduit la « Prédiction Partiellement Performante », un cadre qui gère ce mélange complexe et réel.

L'analogie : Conduire une voiture dans une foule en mouvement

Considérez l'entraînement d'un modèle d'IA comme le fait de conduire une voiture.

L'objectif : Vous voulez rester au centre de la voie (minimiser l'erreur/la perte).
Le décalage performatif (Vous) : Si vous tournez à gauche, les autres voitures autour de vous peuvent se déplacer pour vous éviter. Votre action modifie le schéma de circulation.
Le décalage exogène (La route) : La route elle-même peut être courbe, ou il peut y avoir du vent qui pousse la voiture. Ce sont des forces que vous n'avez pas créées.

La prédiction performante classique suppose que la route est droite et plate, et que la seule chose qui bouge est le trafic réagissant à vous.
L'apprentissage en ligne (Online Learning) classique suppose que le trafic est figé, mais que la route change constamment sous vos pneus.

L'approche de ce papier : Elle reconnaît que les deux phénomènes se produisent. Vous dirigez (affectant le trafic), et la route tourne (forces externes).

Concepts clés expliqués

1. La « cible mouvante »

Dans les anciens modèles, l'objectif était de trouver un « point stable » — un modèle parfait qui, une fois déployé, ne provoquerait plus de décalage dans les données. C'était comme chercher une place de parking.

Dans ce nouveau monde « partiel », il n'y a pas de place de parking permanente. Le « modèle parfait » est une cible mouvante.

Parce que le monde extérieur (le décalage exogène) change, le « meilleur » modèle change chaque jour.
Parce que votre modèle affecte le monde (le décalage performatif), votre tentative de rattraper la cible déplace légèrement la cible.

2. Le Regret : À quel point êtes-vous à la traîne ?

Puisque vous ne pouvez pas stationner, vous ne mesurez pas le succès par « est-ce que je me suis arrêté ? ». À la place, vous mesurez le « Regret ».

Le Regret est la différence entre votre performance et la performance que vous auriez pu avoir si vous aviez magiquement connu le modèle parfait pour chaque journée.
Le papier définit deux types de regret :
- Regret de stabilité : À quelle distance êtes-vous du modèle qui serait stable en ce moment même ?
- Regret d'optimalité : À quelle distance êtes-vous du modèle qui donnerait les meilleurs résultats en ce moment même ?

3. La Longueur de Chemin (Path Length) : À quelle vitesse le monde change-t-il ?

Le papier introduit une métrique clé appelée « Longueur de Chemin ».

Imaginez que le « modèle parfait » est un coureur. La Longueur de Chemin est la distance que ce coureur parcourt au fil du temps.
Si le monde extérieur est calme (décalage exogène lent), le coureur se déplace lentement. Il est facile à suivre.
Si le monde extérieur est chaotique (décalage exogène rapide), le coureur sprinte et zigzague. Il est difficile à suivre.
Le papier prouve que votre erreur (regret) dépend fortement de cette Longueur de Chemin. Plus le monde change de lui-même, plus il est difficile pour votre algorithme de suivre le rythme.

Qu'ont-ils découvert ? (Les résultats)

Les auteurs ont testé plusieurs méthodes courantes pour mettre à jour les modèles d'IA (comme le « Réentraînement » ou la « Descente de Gradient ») dans cet environnement mixte. Voici leurs découvertes :

1. Le compromis de « Alpha » ( $\alpha_t$ )
Ils utilisent une variable appelée $\alpha$ pour représenter l'importance du monde extérieur par rapport à l'importance de votre modèle.

Si $\alpha$ est faible (Principalement performant) : Le monde réagit principalement à vous. Le papier montre que le réentraînement standard fonctionne bien ici. La « Longueur de Chemin » est faible car le monde est stable, sauf si vous l'intervenez.
Si $\alpha$ est élevé (Principalement exogène) : Le monde change de lui-même. Votre modèle a moins de pouvoir pour façonner les données. Le papier montre que le réentraînement fonctionne toujours, mais votre erreur augmentera si le monde extérieur change trop vite. Vous êtes essentiellement à la poursuite d'un train fou.

2. Le réentraînement reste efficace (avec des nuances)
Ils ont analysé la « Minimisation de Risque Répétée » (RRM) — ce qui est simplement une façon sophistiquée de dire « réentraîner le modèle sur les dernières données ».

Ils ont prouvé que si vous réentraînez assez souvent, vous pouvez maintenir votre regret à un niveau bas.
Cependant, le « coût » de ce regret est lié à la vitesse à laquelle l'environnement externe dérive. Si la dérive externe est imprévisible, votre erreur sera plus élevée. Vous poursuivez une cible mouvante.

3. L'optimalité est plus difficile
Trouver le point « Stable » (où le modèle cesse de provoquer des décalages) est plus facile que de trouver le point « Optimal » (la performance absolue).

Pour trouver le point Optimal, vous devez anticiper comment votre modèle modifiera le futur.
Le papier utilise l'« optimisation du second ordre » (essentiellement tester le système pour voir comment il réagit) pour trouver ces points optimaux.
Ils ont montré que même avec cette méthode complexe, vous pouvez suivre la cible optimale mouvante, à condition que la cible ne bouge pas de manière trop erratique.

Résumé en une phrase

Ce papier fournit les règles mathématiques de la manière dont les modèles d'IA doivent apprendre lorsqu'ils influencent le monde qu'ils prédisent, alors que ce même monde change aussi de manière indépendante d'eux — prouvant que tant que le monde extérieur ne change pas de manière trop chaotique, les méthodes de réentraînement standard peuvent toujours maintenir l'IA sur la bonne voie.

Résumé Technique : Prédiction Partiellement Performative

Énoncé du Problème

L'article traite des limites des cadres existants de la prédiction performative, qui modélisent les changements de distribution comme étant purement endogènes (induits par le modèle $\theta$ déployé). Dans la prédiction performative classique, la distribution des données $D(\theta)$ change uniquement en réponse aux actions de l'apprenant. Cependant, les auteurs observent que dans les domaines conséquenciels réalistes (ex. : finance, santé, politiques publiques), les changements de distribution sont rarement purement endogènes. Ils sont souvent pilotés par un mélange de l'influence du modèle et de facteurs exogènes (ex. : effets saisonniers, forces du marché, changements de politiques) qui évoluent indépendamment de l'apprenant.

Pour capturer cette interaction, l'article introduit la Prédiction Partiellement Performative. Dans ce cadre, la distribution des données à l'instant $t$ est un mélange temporel variable :
$D_t(\theta) = (1 - \alpha_t)D(\theta) + \alpha_t P_t$
où :

$D(\theta)$ est la composante performative dépendant du modèle $\theta$ .
$P_t$ est une distribution exogène qui évolue au fil du temps indépendamment de $\theta$ .
$\alpha_t \in [0, 1]$ contrôle la force relative du changement exogène.

Ce cadre généralise la prédiction performative classique (récupérée lorsque $\alpha_t = 0$ ) et se rapproche d'un cadre de changement purement exogène (lorsque $\alpha_t = 1$ ). Le défi central est que la "cible" (le modèle optimal ou stable) n'est plus statique ; elle dérive à la fois à cause des actions de l'apprenant et de l'évolution externe de $P_t$ .

Méthodologie et Cadre

1. Redéfinition des Objectifs : Regret Dynamique

Puisque l'environnement est non stationnaire, l'objectif de converger vers un modèle fixe unique (comme dans la stabilité ou l'optimalité performative) est insuffisant. Les auteurs proposent de mesurer la performance via le regret dynamique par rapport à des séquences de références variables dans le temps :

Regret de Stabilité Performative ( $Reg^{PS}_T$ ) : Compare la séquence de l'apprenant $\{\theta_t\}$ à la séquence des points de stabilité performative $\{\theta^{PS}_t\}$ , où $\theta^{PS}_t$ minimise le risque découplé compte tenu de la distribution induite par $\theta^{PS}_t$ .
Regret d'Optimalité Performative ( $Reg^{PO}_T$ ) : Compare l'apprenant à la séquence des points d'optimalité performative $\{\theta^{PO}_t\}$ , qui minimisent le risque performatif $PR_t(\theta) = \mathbb{E}_{Z \sim D_t(\theta)}[\ell(Z, \theta)]$ .

2. Outil Analytique Clé : Longueur de Chemin (Path Length)

Une quantité centrale dans les bornes théoriques est la longueur de chemin, définie comme le mouvement cumulé de la séquence de comparaison :
$\sum_{t=1}^{T-1} \Delta^{PS}_t \quad \text{où} \quad \Delta^{PS}_t = \|\theta^{PS}_t - \theta^{PS}_{t+1}\|$
L'article établit que les bornes de regret dépendent explicitement de cette longueur de chemin, laquelle est pilotée par le taux de changement de la distribution exogène $P_t$ et du coefficient de mélange $\alpha_t$ .

3. Algorithmes Analysés

L'article analyse plusieurs heuristiques d'apprentissage standards adaptées à ce contexte :

Minimisation du Risque Répétée (RRM) : Met à jour $\theta_{t+1} = \arg\min_\theta \mathbb{E}_{Z \sim D_t(\theta_t)}[\ell(Z, \theta)]$ .
Descente de Gradient Répétée (RGD) : Utilise des gradients attendus complets.
Descente de Gradient Stochastique (SGD) : Inclut des variantes "avides" (un échantillon par déploiement) et "paresseuses" (plusieurs échantillons/mises à jour par déploiement).
Algorithmes du Zéro-Ordre : Utilisés pour l'optimalité performative lorsque les gradients du risque performatif sont intraitables. Cela inclut les méthodes à Deux Déploiements (ZGD2) et à Déploiement Unique (ZGD) qui perturbent le modèle pour estimer les gradients.

Contributions Clés et Résultats

1. Bornes Théoriques pour la Stabilité

Les auteurs dérivent des bornes de regret pour RRM et RGD qui arbitrent explicitement entre changements endogènes et exogènes.

Théorème 3.2 (RRM) : Sous des hypothèses de forte convexité et de lissage, le regret de stabilité est borné par :
$Reg^{PS}_T(ARRM) = O\left(1 + \sum_{t=1}^{T-1} \Delta^{PS}_t\right)$
Le facteur de contraction requis pour la convergence est relaxé par rapport au cadre classique : $\epsilon < \frac{\mu}{(1-\alpha_{\min})\beta_z}$ .
Insight : Lorsque les changements sont principalement performatifs ( $\alpha_t \approx 0$ ), la longueur de chemin s'annule et le regret est constant. Lorsque les changements sont principalement exogènes ( $\alpha_t \approx 1$ ), le regret dépend de la non-stationnarité de $P_t$ . Si $P_t$ fluctue rapidement, le regret peut être élevé ; si $P_t$ est presque constante, le regret reste faible.

2. Bornes Théoriques pour l'Optimalité

Pour l'optimalité performative, l'article utilise des techniques d'optimisation du zéro-ordre.

Théorèmes 5.2 & 5.3 : Les auteurs fournissent des bornes de regret pour les algorithmes de deux déploiements et de déploiement unique. Les bornes évoluent avec la dimension $d$ , l'horizon temporel $T$ , et la longueur de chemin de la séquence optimale $\sum \Delta^{PO}_t$ .
Arbitrage de Convexité : L'article note que si une composante exogène importante ( $\alpha_t \approx 1$ ) rend la cible plus difficile à suivre (augmentant la longueur de chemin), elle rend aussi le risque performatif plus susceptible d'être convexe (puisque la partie exogène est convexe si la perte l'est). Inversement, un fort feedback endogène peut rendre le risque performatif non-convexe même si la perte est convexe.

3. Validation Empirique

Des expériences sur un ensemble de données de notation de crédit (modèle de réponse stratégique) et des données gaussiennes synthétiques valident les découvertes théoriques :

Changements Exogènes Aléatoires : Une décroissance plus rapide de $\alpha_t$ (réduisant le poids du terme exogène mobile) conduit à un regret plus faible.
Changements Exogènes Stationnaires : Maintenir $\alpha_t$ plus élevé (plus proche d'une distribution fixe, non-performative) produit un regret plus faible.
Les courbes de regret empiriques s'alignent avec les bornes supérieures théoriques concernant l'ordre des différents programmes de $\alpha_t$ .

Signification et Revendications

L'article affirme fournir le premier cadre qui unifie les changements de distribution endogènes et exogènes sous un seul modèle d'apprentissage. Sa principale importance réside dans :

Généralisation : Il généralise strictement la prédiction performative classique, montrant que les algorithmes standards (comme RRM) restent efficaces mais nécessitent une réévaluation des conditions de convergence en présence de bruit exogène.
Benchmarking Dynamique : Il déplace le paradigme des équilibres statiques vers le regret dynamique, reconnaissant que dans les systèmes réels, le "meilleur" modèle est une cible mouvante.
Identification des Arbitrages : Il caractérise explicitement l'arbitrage entre la difficulté de suivre une cible mobile (dérive exogène) et la difficulté d'optimiser un paysage non-convexe (feedback endogène).

Les auteurs restent modestes quant aux questions ouvertes, notant que l'appariement des bornes inférieures pour les taux de regret (particulièrement pour le SGD avide) et l'assouplissement des hypothèses de régularité (convexité, sensibilité) restent des domaines ouverts pour la recherche future. Ils suggèrent également que les définitions de regret peuvent naturellement s'étendre à des modèles de mélange non linéaires au-delà du cadre linéaire actuel.