Triage Score: A Counterfactual Risk Assessment Instrument

Résumé technique : Score de triage : Un instrument d'évaluation des risques contrefactuels

Énoncé du problème
Les instruments d'évaluation des risques (scores de risque) sont largement déployés dans des domaines à enjeux élevés tels que la justice pénale et la médecine pour prédire la probabilité d'un résultat indésirable (par exemple, une réarrestation ou une maladie) sous une décision de base de non-intervention. Bien que des scores élevés déclenchent généralement des interventions (par exemple, une caution ou des soins intensifs), cette approche souffre d'un désalignement fondamental avec la maximisation du bien-être. Les scores de risque ne prédisent les résultats que sous une seule base (absence d'intervention), échouant à rendre compte des résultats contrefactuels sous des décisions alternatives. Par conséquent, ils ne peuvent pas distinguer les individus pour lesquels une intervention modifierait significativement les résultats de ceux pour lesquels elle n'en ferait rien. Cette limitation occulte les compromis éthiques et pratiques, tels que le regret associé à la détention inutile d'un individu qui n'aurait pas récidivé s'il avait été libéré. Les cadres existants reposent souvent sur des « étiquettes sélectives » (résultats observés uniquement pour ceux qui ont reçu une décision spécifique), ce qui complique l'évaluation de politiques alternatives.

Méthodologie
Les auteurs proposent un cadre basé sur les scores de triage, une classe d'instruments d'évaluation des risques contrefactuels conçus pour aligner la prise de décision sur l'objectif de maximisation de l'utilité attendue. Contrairement aux scores de risque standard qui dépendent uniquement du potentiel de résultat de base $Y(d_0)$, les scores de triage sont construits à partir d'utilités contrefactuelles additives qui dépendent de la distribution jointe des potentiels résultats sous des décisions alternatives.

1. Cadre d'utilité contrefactuelle :

   • Le cadre utilise la stratification principale (Frangakis et Rubin, 2002), définissant des strates basées sur la distribution jointe des potentiels résultats $(Y(0), Y(1), \dots, Y(K_D-1))$. Dans un contexte binaire, ces strates incluent : Sûr (aucun résultat sous toute décision), Effet de recul (résultat uniquement sous intervention), Prévenable (résultat uniquement sous absence d'intervention) et Désespéré (résultat sous toute décision).
   • Les utilités sont définies de manière additive : $u(d, y) = u^d_{y_d} + \sum_{d' \neq d} \tilde{u}^{d'}_{y_{d'}}$. Le premier terme représente l'utilité standard du résultat réalisé, tandis que le second terme capture l'utilité contrefactuelle (ou le « regret ») associé au résultat qui serait survenu sous une décision alternative $d'$.
   • Cette structure additive permet au cadre de distinguer les cas où une intervention est véritablement préventive des cas où elle est inutile (par exemple, imposer une caution à un défendeur « Sûr »).

2. Identification et estimation :

   • Sous l'hypothèse de non-confondance (indépendance conditionnelle des potentiels résultats et des décisions étant donné les covariables observées), les auteurs établissent que l'utilité contrefactuelle attendue est identifiée ponctuellement, même sans observer la distribution jointe complète des potentiels résultats.
   • Le papier emploie des estimateurs de pondération inverse de probabilité augmentée (AIPW) pour estimer les utilités attendues. Cette approche est doublement robuste, nécessitant une estimation cohérente à la fois du modèle de décision (propension de la décision du juge) et du modèle de résultat.
   • Pour traiter les données textuelles de haute dimension et non structurées (spécifiquement les déclarations sous serment de cause probable) qui confondent les décisions judiciaires, les auteurs intègrent l'inférence par IA générative (GPI). En utilisant des modèles de langage de grande taille (par exemple, Llama3) et des architectures comme DragonNet, ils extraient des déconfondeurs de faible dimension à partir du texte pour ajuster l'hétérogénéité non observée, satisfaisant l'hypothèse de non-confondance de manière plus plausible que par les seules covariables structurées.

3. Apprentissage de politiques :

   • Le cadre permet l'apprentissage de règles de décision optimales en résolvant un problème de maximisation de l'utilité empirique. Pour les décisions binaires, cela est reformulé en un problème de classification pondérée ; pour les décisions multiclasses, cela implique de sélectionner la décision ayant l'utilité attendue estimée la plus élevée pour chaque profil de covariable.

Application empirique et résultats
La méthodologie est appliquée à un essai contrôlé randomisé (ECR) dans l'Utah évaluant l'Évaluation de la sécurité publique (PSA), un score de risque de pré-séquestration. Dans cette étude, les juges ont été assignés de manière aléatoire pour recevoir ou non les recommandations du PSA. Le jeu de données comprend 9 855 cas de première arrestation avec des résultats mesurés comme l'Activité criminelle nouvelle (NCA), l'Activité criminelle violente nouvelle (NVCA) et le Défaut de comparution (FTA).

• Spécification de l'utilité : Les auteurs définissent des paramètres d'utilité intégrant le coût des décisions (par exemple, le coût de la caution), le coût des résultats indésirables et les paramètres de regret pour les résultats contrefactuels.
• Analyse comparative : L'étude compare trois systèmes : Humain seul, Humain + PSA, et une politique d'arbre de décision optimal dérivée du cadre de score de triage.
• Principales conclusions :
  • Sensibilité aux paramètres d'utilité : La règle de décision préférée (Humain vs Humain+PSA) est hautement sensible à la spécification des paramètres d'utilité, particulièrement au coût de la caution et au regret associé à la détention inutile.
  • Divergence par rapport aux scores de risque : Sous le cadre standard du score de risque (qui réduit les strates basées sur le risque de base), la politique optimale diffère souvent de manière significative de celle dérivée sous le cadre du score de triage. Le cadre du score de triage identifie que la caution peut être contre-productive pour les défendeurs « Sûrs » (ceux qui ne récidiveraient pas quelle que soit la décision), une nuance perdue dans l'évaluation standard du risque.
  • Implications politiques : L'analyse démontre que les conclusions concernant la valeur des recommandations algorithmiques ne sont pas absolues mais dépendent du poids éthique accordé aux résultats contrefactuels. Par exemple, lorsque le regret pour une détention inutile est élevé, le cadre de triage favorise souvent des politiques qui réduisent l'usage de la caution par rapport aux approches fondées sur le risque standard.

Contributions et importance
Le papier apporte trois contributions principales :

1. Généralisation théorique : Il introduit le score de triage comme une généralisation des scores de risque standard, déplaçant l'attention de la prédiction d'un résultat de base unique vers l'évaluation des décisions basées sur la distribution jointe des potentiels résultats. Cela permet l'incorporation explicite de considérations éthiques comme le regret.
2. Avancement méthodologique : Il fournit un cadre de décision théorique statistique pour évaluer et apprendre des politiques optimales sous des utilités contrefactuelles, établissant des résultats d'identification sous l'hypothèse de non-confondance et développant des estimateurs semi-paramétriques (AIPW) qui accommodent les déconfondeurs textuels de haute dimension via l'IA générative.
3. Démonstration empirique : À travers l'ECR de l'Utah, le papier illustre que les évaluations conventionnelles des scores de risque peuvent produire des recommandations de politiques substantiellement distinctes et potentiellement sous-optimales par rapport aux approches basées sur le triage. Il souligne que la « meilleure » règle de décision est contingente sur la structure d'utilité spécifique (compromis éthiques et pratiques) choisie par le décideur.

Revendications et limites
Les auteurs positionnent le score de triage non pas comme un outil spécifique pour un contexte donné, mais comme un cadre général de soutien à la décision. Ils déclarent explicitement qu'ils ne développent pas un score de triage spécifique pour l'application de l'Utah, mais démontrent plutôt la capacité du cadre à capturer des structures d'utilité riches. Le papier reconnaît que la validité des résultats repose sur l'hypothèse de non-confondance, rendue plausible dans leur application par la disponibilité de l'information judiciaire complète (incluant les déclarations de cause probable) et l'utilisation de la GPI pour ajuster les déconfondeurs basés sur le texte. Les auteurs suggèrent que les travaux futurs devraient se concentrer sur l'élucidation réelle des paramètres d'utilité avec les décideurs politiques et l'extension du cadre à des contextes de prise de décision dynamiques et séquentiels.