Actionable Recourse in Competitive Environments: A Dynamic Game of Endogenous Selection

1. Problématique et Contexte

L'article aborde la question du recours actionnable (actionable recourse) dans le contexte des systèmes d'aide à la décision basés sur l'IA. Le recours actionnable désigne la capacité d'un individu à modifier ses caractéristiques contrôlables (features) pour inverser une décision défavorable (ex. : refus d'admission, de prêt ou d'embauche).

Cependant, la littérature existante traite souvent le recours comme un problème individuel face à un classifieur fixe. Les auteurs soulignent une lacune majeure : de nombreux systèmes réels fonctionnent dans des environnements compétitifs (admissions universitaires, recrutement), où un nombre limité de candidats est sélectionné parmi un grand pool.

• Le problème central : Que se passe-t-il lorsque le recours est disponible pour tous dans un environnement compétitif ?
• L'hypothèse : Si tous les candidats rejoints suivent les recommandations d'amélioration, la distribution globale des caractéristiques change, déplaçant la frontière de décision et le seuil de succès. Cela crée une sélection endogène où la règle de décision et le seuil sont déterminés par l'état actuel de la population.
• Conséquence : L'amélioration devient relative plutôt qu'absolue, menant potentiellement à une « involution » (efforts croissants pour des gains marginaux décroissants) et à une stratification sociale persistante.

2. Méthodologie et Cadre Théorique

Les auteurs proposent un cadre formel modélisant le recours comme une interaction stratégique dynamique entre un concepteur de système et une population de candidats.

A. Sélection Compétitive Basée sur le Risque (CVaR)

Le système sélectionne une fraction fixe $\rho$ des meilleurs candidats.

• Modélisation : La sélection est formulée comme la maximisation de la moyenne des scores du top $\rho$.
• Représentation mathématique : Les auteurs utilisent la Valeur à Risque Conditionnelle (CVaR) adaptée à la queue supérieure ($CVaR^{up}_\rho$) pour représenter cette sélection.
• Optimisation : Le concepteur résout un problème d'optimisation régularisé pour trouver le vecteur de score optimal $w$ et le seuil $\eta$. La solution montre que le vecteur de score optimal est proportionnel au centroïde empirique du sous-ensemble sélectionné (la queue supérieure).

B. Recours Actionnable et Coûts

Pour un candidat rejeté, le recours consiste à trouver la modification minimale des caractéristiques actionnables pour franchir le seuil.

• Coût quadratique : Initialement, le coût de l'effort est modélisé comme quadratique ($\|a\|^2$), reflétant la difficulté croissante des changements.
• Barrière Logarithmique (Modèle Dynamique) : Dans la version dynamique, les auteurs introduisent une contrainte de plafond (ex. : note maximale de 340 pour un test) et un coût d'effort avec barrière logarithmique.
  • Fonction de coût : $C(\gamma) = \frac{k}{2}\gamma^2 - \theta \log(\Delta - \gamma)$.
  • Cela modélise le fait que l'effort devient infiniment coûteux à mesure que l'on approche du plafond physique ou institutionnel.

C. Système Dynamique en Boucle Fermée

Le modèle est un système dynamique discret $X_{t+1} = \Phi(X_t)$ :

1. Étape du concepteur : À chaque instant $t$, le concepteur observe la distribution $X_t$ et recalcule la règle de sélection optimale ($w_t, \eta_t$).
2. Réponse des candidats : Les candidats rejetés calculent la direction de recours optimale (projection de $w_t$ sur les caractéristiques actionnables) et ajustent leurs profils en fonction de leur coût marginal et de la distance au plafond.
3. Évolution : La nouvelle distribution $X_{t+1}$ modifie la règle de sélection suivante, créant une boucle de rétroaction.

3. Contributions Clés

1. Cadre Dynamique Stratégique : Première modélisation du recours actionnable non pas comme un problème statique, mais comme un jeu dynamique où la règle de décision évolue avec les actions des agents.
2. Mécanisme de Sélection Endogène : Démonstration que la règle de décision (vecteur $w$) et le seuil de sélection ($\eta$) sont déterminés par l'état de la population, créant une interdépendance forte.
3. Analyse de l'Équilibre de Recours : Définition et caractérisation des points fixes du système dynamique. Les auteurs identifient deux régimes d'équilibre :
   • Équilibre structurel : La direction de score devient orthogonale aux caractéristiques actionnables ($d^*=0$), rendant tout effort futile.
   • Équilibre à effort supprimé : Une direction actionnable existe, mais les candidats rejoints optent pour un effort nul car le coût marginal dépasse le bénéfice.
4. Théorème de Stratification Sociale : Preuve que les candidats initialement sélectionnés définissent non seulement le standard de succès, mais aussi la direction dans laquelle les autres doivent concourir. Cela peut amplifier les disparités initiales.

4. Résultats Principaux

• Amplification des Inégalités : Le système tend à amplifier les écarts initiaux. Les candidats initialement favorisés définissent le centroïde de la queue supérieure, dictant ainsi la direction de l'amélioration pour tous. Si ce centroïde repose sur des caractéristiques immuables (ex. : GPA, origine), les candidats défavorisés ne peuvent jamais rattraper leur retard, même avec des efforts maximaux.
• Involution et Stagnation : À mesure que les candidats s'approchent du plafond de leurs caractéristiques actionnables, le coût marginal de l'effort explose (effet de barrière). Le système atteint un état de stagnation où l'amélioration collective ralentit, mais le seuil de sélection reste élevé, créant une « involution » (efforts croissants pour des gains nuls).
• Stratification Persistante : À l'équilibre, si la sélection dépend uniquement de caractéristiques immuables, une séparation stricte (gap) persiste entre les groupes sélectionnés et rejetés. L'espace actionnable ne permet pas de combler ce fossé.
• Étude de Cas Numérique : La simulation sur des données synthétiques (GPA vs GRE) illustre la trajectoire du système :
  • Phase initiale : Mouvement rapide des candidats rejetés vers la frontière.
  • Phase de transition : Ralentissement dû à l'approche du plafond et à la rotation de la frontière de décision.
  • Phase de stabilisation : Convergence vers un état où la variance des scores diminue, mais où l'écart entre les groupes sélectionnés et rejetés reste constant et significatif.

5. Signification et Implications

• Pour la Gouvernance de l'IA : Ce travail met en garde contre l'illusion que fournir des conseils de recours (ex. : « améliorez votre score GRE ») garantit l'équité dans des contextes compétitifs. Si le système est conçu pour sélectionner un pourcentage fixe, les conseils peuvent simplement déplacer la barre, rendant l'effort collectif vain.
• Comprendre l'Involution : Le modèle offre une formalisation mathématique du phénomène sociologique d'« involution », expliquant comment la compétition pour des ressources limitées peut conduire à une sur-optimisation sans amélioration réelle du bien-être collectif.
• Conception de Systèmes : Les résultats suggèrent que pour éviter la stratification persistante, les concepteurs de systèmes doivent peut-être éviter les règles de sélection basées uniquement sur la queue de distribution (CVaR) ou intégrer des mécanismes qui ne dépendent pas exclusivement des caractéristiques immuables.

En résumé, l'article démontre que dans un environnement compétitif, le recours actionnable peut paradoxalement renforcer les inégalités structurelles plutôt que de les résoudre, car la dynamique collective transforme l'amélioration individuelle en une course où les gagnants initiaux définissent les règles du jeu pour les perdants.