Strategic Costs of Perceived Bias in Fair Selection

1. Problématique et Contexte

Les systèmes de sélection méritocratiques (admissions universitaires, recrutement, etc.) visent à récompenser l'habileté et l'effort de manière impartiale. Cependant, des disparités persistantes existent selon la race, le genre et la classe sociale.

• Le paradoxe : Même lorsque les procédures d'évaluation sont aveugles à l'identité de groupe, les écarts de représentation et de résultats subsistent.
• Hypothèse centrale : L'article propose que ces écarts ne proviennent pas uniquement de barrières structurelles (accès inégal aux ressources) ou de biais dans le processus de sélection, mais d'une biais perçu dans la valeur post-sélection.
• Mécanisme : Les candidats de différents groupes socio-économiques perçoivent différemment la valeur de la réussite (salaire, mobilité), influencés par le contexte social et les outils d'IA (qui peuvent fournir des conseils de carrière biaisés). Cette perception affecte rationnellement leur décision d'investir de l'effort avant même la sélection. Si un groupe perçoit une valeur moindre, il investit moins d'effort, ce qui réduit sa représentation dans les résultats, perpétuant ainsi les inégalités même dans un système formellement juste.

2. Méthodologie et Modèle

Les auteurs développent un modèle de théorie des jeux basé sur la théorie des concours (contest theory) et les enchères « all-pay » (où tous les participants paient leur enchère/effort, mais seul le gagnant reçoit la récompense).

• Configuration du jeu :

  • Une population de $n$ agents divisée en deux groupes : un groupe favorisé $G_1$ (proportion $1-\alpha$) et un groupe défavorisé $G_2$ (proportion $\alpha$).
  • Les agents concourent pour $k = c \cdot n$ places (où $c$ est le taux de sélection).
  • Chaque agent $i$ possède une valuation $v_i$ (valeur perçue de la sélection) et une aptitude initiale $a_i$.
  • Biais structurel : La distribution des valuations du groupe défavorisé $p_2$ est une version biaisée de celle du groupe favorisé $p_1$. Concrètement, $p_2(v) = \frac{1}{\rho} p_1(\frac{v}{\rho})$ avec $\rho \in (0, 1]$. Un $\rho < 1$ signifie que le groupe défavorisé perçoit une valeur moyenne plus faible.
  • Stratégie : Chaque agent choisit un effort $e_i$ pour maximiser son gain espéré : $v_i \cdot P(\text{gagner}) - e_i$. Le score est $s_i = e_i + a_i$. La sélection se fait sur les scores les plus élevés.

• Analyse asymptotique :

  • L'analyse se concentre sur la limite des grands nombres ($n \to \infty$).
  • Les auteurs caractérisent l'Équilibre de Nash (EN) symétrique. Ils montrent que, dans la limite, la stratégie optimale pour chaque agent devient une fonction de seuil : si la somme de la valuation et de l'aptitude ($v+a$) dépasse un seuil critique $t$, l'agent investit un effort précis pour atteindre ce score ; sinon, il n'investit rien.

3. Contributions Clés

1. Caractérisation de l'Équilibre de Nash :

   • Preuve de l'existence et de l'unicité de l'équilibre dans la limite $n \to \infty$.
   • Dérivation d'une formule explicite pour le seuil $t$ qui régit le comportement des agents : $(1-\alpha)F_1(t) + \alpha F_2(t) = 1-c$, où $F_\ell$ sont les fonctions de répartition cumulées (CDF) des valuations.
   • Démonstration que la stratégie pour un nombre fini $n$ converge vers cette solution asymptotique à un taux de $O(\sqrt{\log n / n})$.

2. Analyse des Métriques de Performance :
   Les auteurs dérivent des expressions fermées pour trois métriques clés en fonction du biais $\rho$ et du taux de sélection $c$ :

   • Ratio de représentation ($r_R$) : Mesure l'équilibre entre les taux de sélection des deux groupes.
   • Ratio de bien-être social ($r_S$) : Mesure les disparités de gains moyens entre les groupes.
   • Revenu institutionnel ($RV$) : Représente la qualité moyenne (mérite) des agents sélectionnés.

3. Cadre d'Intervention Optimisée :

   • Formulation d'un problème d'optimisation sous contraintes pour aider les institutions à réduire les disparités.
   • L'institution peut choisir d'augmenter la valeur perçue du groupe défavorisé (augmenter $\rho$ via des politiques de soutien) ou d'augmenter le taux de sélection (augmenter $c$, c'est-à-dire réduire la sélectivité).
   • L'objectif est de maximiser la représentation tout en minimisant le coût (coût des interventions + perte de revenu institutionnel due à une baisse du seuil de mérite).

4. Résultats Principaux

• Seuil Critique et Effet de Non-Linéarité :

  • Il existe un seuil critique $\rho_c = 1 - \frac{c}{1-\alpha}$. Si le biais perçu $\rho$ est inférieur à ce seuil, le groupe défavorisé ne participe pas du tout (le seuil $t$ est trop élevé par rapport à leurs valuations maximales), entraînant une représentation nulle ($r_R = 0$).
  • Au-delà de ce seuil, les métriques de représentation et de bien-être augmentent de manière non linéaire avec $\rho$. De petites réductions de la sélectivité ($c$) ou de légères améliorations de la perception ($\rho$) peuvent avoir des effets disproportionnés sur la représentation.

• Compromis (Trade-off) :

  • Réduire la sélectivité (augmenter $c$) améliore la représentation mais diminue le revenu moyen de l'institution (car le seuil de mérite $t$ baisse).
  • Améliorer la perception (augmenter $\rho$) améliore à la fois la représentation et le bien-être sans nécessairement réduire la qualité moyenne, mais cela peut être coûteux à mettre en œuvre.

• Intervention Optimale :

  • L'analyse montre que pour des écarts de représentation très importants, il est plus rentable d'augmenter l'accès (augmenter $c$).
  • Pour des écarts plus faibles, il est plus efficace de corriger le biais de perception (augmenter $\rho$).
  • Une étude de cas sur les données du JEE Advanced 2024 (examen d'entrée indien) illustre comment le modèle peut estimer le biais perçu et recommander des interventions spécifiques pour atteindre un ratio de représentation de 80% (règle des 80%).

5. Signification et Implications

• Pont entre Rationalité et Structure : Ce travail comble le fossé entre les explications « rational-choice » (les individus choisissent rationnellement de ne pas s'investir) et les explications « structurelles » (les inégalités systémiques). Il montre que les inégalités structurelles (biais de perception) créent des incitations rationnelles qui perpétuent les disparités, même sans discrimination active dans le processus de sélection.
• Impact de l'IA : Le modèle met en lumière comment les outils d'IA (LLMs) qui fournissent des conseils de carrière biaisés peuvent exacerber ces disparités en modifiant la variable $\rho$ (la valeur perçue), créant un cycle de rétroaction négatif.
• Conception de Politiques : Le cadre fournit des outils quantitatifs pour les décideurs. Il démontre que la simple neutralité formelle (sélection basée uniquement sur le mérite) ne suffit pas à garantir l'équité si les perceptions de la valeur diffèrent. Des interventions ciblées sur la perception ou l'accès sont nécessaires pour briser le cycle.

En résumé, ce papier démontre mathématiquement que la perception de l'injustice ou de la faible valeur de la réussite peut être aussi dommageable que l'injustice elle-même, car elle décourage rationnellement l'effort, conduisant à des résultats inégaux dans des systèmes par ailleurs équitables.