Do Judges Behave Like Algorithms?

Imaginez un monde où chaque décision est prise par une calculatrice géante et invisible. Dans le domaine de la science connu sous le nom d'intelligence artificielle et du droit, les chercheurs se demandent constamment : devons-nous laisser les ordinateurs prendre les grandes décisions, comme décider qui va en prison et qui reste en liberté ? Pour comprendre cela, vous devez connaître deux façons de prendre des décisions. La première est comme une recette stricte : « Si vous avez trois fautes, vous êtes éliminé. » C'est clair, équitable et tout le monde obtient le même résultat. La seconde est comme un chef goûtant une soupe : « Elle a besoin d'un peu plus de sel, mais peut-être pas si les tomates sont trop acides. » C'est flexible et personnel, mais cela dépend de l'humeur et de la mémoire du chef. Pendant des décennies, les gens ont débattu pour savoir si les juges devaient suivre la recette stricte ou la dégustation flexible. Maintenant, avec des ordinateurs de plus en plus intelligents, le débat a changé. Au lieu de demander si nous devrions remplacer les juges par des robots, les scientifiques posent une question plus audacieuse : les juges agissent-ils déjà comme des robots ? Si un juge ne fait que suivre une recette cachée, nous pourrions la trouver et la corriger. Mais s'ils goûtent vraiment la soupe en fonction de sentiments que nous ne pouvons pas voir, c'est un problème beaucoup plus difficile à résoudre.

Ce document plonge dans ce mystère en scrutant l'esprit de 21 magistrats (juges) du comté de Harris, au Texas, qui décident si des personnes accusées de crimes mineurs doivent être libérées avant leur procès ou détenues en prison. Les chercheurs ont traité ces juges comme des boîtes noires et ont tenté de rétro-concevoir leur processus de décision. Ils se sont demandé : pouvons-nous écrire une formule simple et compréhensible qui prédit ce qu'un juge spécifique fera ? Et si nous le pouvons, tous les juges utilisent-ils la même formule, ou chaque juge a-t-il son propre code secret ?

L'équipe a commencé par nettoyer un ensemble massif de données de plus de 22 000 cas. D'abord, ils ont dû gérer les « bugs ». Ils ont découvert qu'environ 2 % à 33 % des décisions d'un juge ne pouvaient être expliquées par aucune règle logique. En regardant de plus près, ils ont réalisé que ce n'étaient pas des actes de magie ou de biais mystérieux ; c'étaient simplement des erreurs. Parfois, les formulaires informatiques étaient mal remplis, parfois le juge savait quelque chose sur un crime commis dans un autre comté qui n'était pas dans la base de données, ou parfois il avait entendu un détail dans la salle d'audience qui n'avait jamais été consigné dans le registre écrit. Une fois ces cas « bruyants » supprimés, la véritable histoire a émergé.

Les chercheurs ont découvert que, de manière surprenante, la plupart des juges se comportent comme des algorithmes. Pour 16 des 21 juges, l'équipe a pu construire un arbre de décision minuscule et simple (un organigramme de quelques étapes seulement) qui prédisait la décision du juge avec une précision de 85 % à 100 %. Ces formules reposaient sur quelques facteurs clairs, comme l'âge du prévenu, le nombre de mandats d'arrêt en attente et le type spécifique de crime pour lequel il était accusé. Il s'avère que pour de nombreux juges, la « dégustation de la soupe » consiste en fait à suivre une recette très spécifique et répétable.

Cependant, voici le rebondissement : bien que les juges agissent comme des algorithmes, ils utilisent tous des algorithmes différents. L'étude a révélé que les juges sont très cohérents avec eux-mêmes — ce qui signifie que le juge A prendra généralement la même décision pour des cas similaires 76 % du temps. Mais ils sont terribles pour être cohérents les uns avec les autres. Lorsque les chercheurs ont essayé d'utiliser la « recette » du juge A pour prédire ce que ferait le juge B, cela a échoué lamentablement, ne performant pas mieux qu'un choix aléatoire. En fait, pour certaines paires de juges, ils étaient en désaccord sur presque tous les cas impliquant des jeunes (moins de 24 ans). Un juge pourrait voir un jeune avec un mandat et dire « libérez-le », tandis qu'un autre voit exactement le même profil et dit « détenez-le ».

Le document a également examiné quelles variables étaient les plus importantes. Bien que l'âge et le nombre de mandats soient importants pour presque tout le monde, le poids qu'ils accordaient à d'autres facteurs variait considérablement. Certains juges se souciaient profondément de savoir si le prévenu était sans abri ou de son genre, tandis que d'autres ignoraient totalement ces facteurs. Cela suggère que l'issue d'une audience de caution dépend énormement du juge que vous obtenez, et non seulement des faits de votre affaire.

Enfin, les auteurs suggèrent que nous ne devrions pas essayer de remplacer les juges par des ordinateurs. Au lieu de cela, nous devrions utiliser ces résultats pour comprendre les « recettes cachées » que les juges utilisent déjà. Si nous pouvons voir que le juge X traite toujours les jeunes différemment du juge Y, ou que la décision d'un juge change en fonction d'une donnée manquante, nous pouvons corriger ces incohérences. En rendant ces règles invisibles visibles, nous pouvons aider le système de justice à devenir plus juste et prévisible, en veillant à ce que la « recette » soit la même pour tout le monde, quel que soit celui qui cuisine.