Assessing Cognitive Biases in LLMs for Judicial Decision Support: Virtuous Victim and Halo Effects

Cette étude évalue la présence de biais cognitifs humains, notamment l'effet de victime vertueuse et l'effet de halo, dans cinq grands modèles de langage appliqués à l'aide à la décision judiciaire, révélant que bien que ces modèles présentent des variations limitant leur usage immédiat, ils affichent une réduction modeste de ces biais par rapport aux humains, à l'exception notable de l'effet de prestige lié aux credentials.

L'essentiel

Imaginez que vous avez embauché un nouveau juge robot, ultra-intelligent, pour aider les juges humains à rendre des décisions plus justes dans les tribunaux. Mais avant de lui confier le marteau de la justice, vous devez vous poser une question cruciale : Ce robot est-il vraiment impartial, ou a-t-il hérité des mêmes défauts et préjugés que nous, les humains ?

C'est exactement ce que Sierra S. Liu, une jeune chercheuse, a voulu découvrir dans son étude. Elle a testé cinq "cerveaux" d'intelligence artificielle (IA) différents pour voir s'ils tombaient dans les mêmes pièges mentaux que les humains.

Voici l'explication de cette étude, racontée comme une histoire, avec des images simples pour tout comprendre.

1. Le Problème : Les "Lunettes Colorées" de l'Esprit

Les humains ne sont pas parfaits. Quand nous prenons des décisions, nous portons souvent des "lunettes colorées" invisibles qui déforment la réalité.

• L'effet "Victime Vertueuse" : Si quelqu'un subit un malheur, nous avons tendance à penser qu'il est automatiquement une personne parfaite, sainte et innocente. C'est comme si le malheur lui donnait un halo de lumière.
• L'effet "Halo" (ou l'effet de prestige) : Si une personne est riche, travaille dans une grande entreprise ou porte un diplôme d'une université célèbre, nous avons tendance à penser qu'elle est plus intelligente, plus honnête et moins coupable, même si elle a commis la même erreur qu'un autre.

Le but de l'étude était de voir si ces robots (les IA) portaient ces mêmes lunettes déformantes.

2. L'Expérience : Le Laboratoire de Justice Virtuelle

Pour tester les robots, la chercheuse a créé des scénarios de test (comme des petits films écrits). Elle a demandé aux IA de jouer le rôle du juge dans des situations précises, en changeant un seul détail à la fois pour voir comment ils réagissaient.

Elle a utilisé cinq modèles d'IA populaires (comme ChatGPT, Claude, Gemini, etc.) et les a fait jouer 10 fois chaque scénario pour voir s'ils étaient cohérents.

Le Test A : La "Victime Parfaite"

• Le scénario : Une étudiante se fait casser sa tablette.
• La question : L'IA pense-t-elle qu'elle est une meilleure personne parce qu'elle est victime ?
• Le résultat : Oui ! Les IA ont toutes trouvé la victime plus "morale" que si l'histoire ne s'était pas produite.
• L'analogie : C'est comme si les robots disaient : "Oh, elle a eu un accident, donc elle doit être un ange !"
• La surprise : Certaines IA ont même été plus biaisées que les humains, accordant plus de crédit moral aux victimes que nous ne le ferions.

Le Test B : La "Victime avec Consentement" (Le piège dangereux)

• Le scénario : Une femme est agressée. Dans un cas, elle n'a jamais consenti. Dans l'autre, elle avait consenti au début, mais a ensuite dit "stop" et a été agressée de force.
• La question : Les IA vont-elles blâmer la victime dans le deuxième cas (celui avec le consentement initial) ? C'est un biais humain très courant et très injuste.
• Le résultat : Non ! C'est la bonne nouvelle. Les IA n'ont pas pénalisé la victime pour son consentement initial. Elles ont compris que l'agression était toujours une agression.
• L'analogie : Les robots ont dit : "Peu importe ce qui s'est passé avant, si on l'a blessée contre son gré, c'est un crime." Ici, ils ont été plus justes que certains humains.

Le Test C : Le "Halo du Prestige" (L'effet de la réputation)

Ici, on a testé si le statut social changeait la sentence.

1. L'entreprise : Une grande banque célèbre vs une petite entreprise locale.
2. Le métier : Un médecin vs un réceptionniste.
3. Le diplôme : Une université de luxe (Ivy League) vs une université d'État.

• Le résultat :
  • Pour les entreprises, les IA ont été un peu biaisées (elles voulaient plus d'argent pour les victimes contre les grandes banques), mais moins que les humains.
  • Pour les diplômes, c'est là que c'est impressionnant : les IA ont presque oublié ce biais. Peu importe si le témoin venait d'une école de luxe ou non, l'IA a jugé le cas de la même manière.
  • Pour les métiers, c'est un peu mitigé, mais globalement, les IA ont montré moins de favoritisme envers les médecins que les humains.

3. Les Problèmes : Pourquoi on ne peut pas encore leur confier le marteau

Même si les IA ont montré des progrès (elles sont moins influencées par les diplômes ou le consentement), il y a de gros problèmes, comme un moteur de voiture qui fait des bruits bizarres.

• L'incohérence (Le problème de la "Lune") : C'est le plus gros souci. Si vous posez la même question à la même IA deux fois de suite, elle peut donner deux réponses totalement différentes !
  • Analogie : Imaginez un juge qui, le matin, condamne quelqu'un à 3 ans de prison, et l'après-midi, pour le même crime, le condamne à 10 ans, juste parce qu'il a changé d'humeur. C'est dangereux pour la justice.
• Le refus de répondre : Parfois, les IA disent "Je ne peux pas répondre" (surtout quand il s'agit de violences sexuelles), ce qui bloque le processus.
• L'excès de compassion : Les IA ont tendance à être trop gentilles avec les victimes, ce qui peut parfois fausser la justice en rendant le coupable trop coupable sans preuve suffisante.

Conclusion : Le Robot est un Apprenti Prometteur, mais pas encore le Maître

Pour résumer cette étude avec une image finale :

Imaginez que les juges humains sont des anciens marins qui naviguent depuis des décennies. Ils connaissent la mer, mais ils sont parfois fatigués, ont des préjugés sur certaines îles, et leur boussole tremble quand il fait chaud.

Les IA, elles, sont comme de nouveaux robots marins très intelligents.

• Leur force : Ils ne se fatiguent pas, ils ne sont pas influencés par la chaleur, et ils ne regardent pas le diplôme du capitaine pour décider de la route. Ils sont très bons pour ignorer certains préjugés humains (comme le prestige des écoles).
• Leur faiblesse : Ils sont encore très instables. Parfois, ils sont trop gentils, parfois ils refusent de naviguer, et leur boussole change de direction d'une minute à l'autre.

La leçon à retenir : Ces robots ne doivent pas encore remplacer les juges humains. En revanche, ils pourraient être d'excellents assistants pour nous aider à repérer nos propres erreurs. Si un juge humain dit "Ce médecin est innocent parce qu'il est médecin", le robot pourrait dire : "Attendez, j'ai vu 100 cas similaires, et le statut de médecin ne devrait pas changer la sentence."

C'est un outil puissant pour nous aider à être plus justes, à condition de ne jamais lui laisser le contrôle total du gouvernail.

Résumé technique

Voici un résumé technique détaillé de l'article de recherche en français, structuré selon les sections demandées.

Titre de l'étude

Évaluation des biais cognitifs dans les LLM pour l'aide à la décision judiciaire : Effet de la victime vertueuse et Effet de halo.

1. Problématique

La prise de décision judiciaire est historiquement vulnérable à des biais cognitifs humains (ex. : effet du juge affamé, biais d'ancrage, effet de halo, biais de groupe). Bien que des tentatives aient été faites pour former les juges à réduire ces biais implicites, ces améliorations sont souvent éphémères.
L'article pose la question centrale : Les Grands Modèles de Langage (LLM) peuvent-ils offrir une alternative plus équitable et cohérente que les humains pour soutenir les décisions judiciaires, ou reproduisent-ils, voire amplifient-ils, les biais humains préexistants ?
L'étude se concentre spécifiquement sur deux biais pertinents pour le droit :

• L'effet de la victime vertueuse (VVE - Virtuous Victim Effect) : La tendance à percevoir les victimes comme plus morales, et la manière dont ce biais est atténué (ou non) en présence d'un consentement préalable adjacent (ex. : relations antérieures dans les cas d'agression sexuelle).
• L'effet de halo basé sur le prestige : L'influence de traits extrinsèques positifs (statut professionnel, réputation de l'entreprise, crédibilité des diplômes) sur le jugement de culpabilité ou la sévérité de la peine.

2. Méthodologie

L'étude utilise une approche expérimentale rigoureuse basée sur des scénarios (vignettes) adaptés de la littérature psychologique existante, mais modifiés pour éviter que les LLM ne se souviennent des réponses de leurs données d'entraînement.

• Modèles évalués : Cinq LLMs représentatifs ont été testés :
  • ChatGPT 5 Instant
  • ChatGPT 5 Thinking
  • DeepSeek V3.1
  • Claude Sonnet 4
  • Gemini 2.5 Flash
• Conception des scénarios :
  • VVE (Préjudice mineur) : Comparaison d'une victime (iPad cassé) vs. un non-victime (même contexte, pas de dommage).
  • VVE (Préjudice majeur avec consentement adjacent) : Trois conditions : non-victime, victime sans consentement (agression), victime avec consentement adjacent (consentement initial retiré, agression subséquente).
  • Effet de Halo (Prestige) :
    • Entreprise : Cas de discrimination (Ordinaire vs. Prestigieuse, ex. Goldman Sachs).
    • Profession : Détournement de fonds (Médecin vs. Réceptionniste).
    • Diplômes : Témoignage d'expert (Université d'État vs. Ivy League) influençant la probabilité de peine de mort.
• Protocole d'évaluation :
  • Chaque prompt a été exécuté 10 fois par modèle pour moyenner les résultats et réduire la variabilité.
  • Les réponses invalides (refus, blocages politiques) ont été exclues.
  • Les résultats des LLMs ont été comparés à des benchmarks humains issus de la littérature scientifique (ex. : différence de moralité de 0,5 point pour le VVE mineur, ratio de compensation de 3:1 pour les entreprises prestigieuses).

3. Résultats Clés

A. Effet de la Victime Vertueuse (VVE)

• Amplification du biais : Les LLMs ont généralement montré un effet de victime vertueuse plus fort que les humains.
  • Exemple : Gemini 2.5 Flash a affiché une élévation morale de +1,9 points (vs +0,5 pour les humains).
• Absence de pénalité pour le consentement adjacent : Contrairement aux humains qui tendent à blâmer davantage les victimes ayant eu un consentement préalable (baisse de moralité perçue), aucun des modèles n'a pénalisé les victimes dans la condition "consentement adjacent". La moralité perçue est restée stable ou élevée, indiquant une absence de ce biais spécifique chez les LLMs.

B. Effet de Halo (Prestige)

• Réduction globale du biais : Les LLMs ont généralement montré une sensibilité moindre au prestige que les humains, bien que des biais subsistent.
  • Prestige de l'entreprise : Les modèles ont attribué des compensations plus élevées aux entreprises prestigieuses, mais l'écart moyen (environ 1,5x à 2x) était inférieur au benchmark humain (3x).
  • Prestige professionnel : Les résultats sont mitigés. DeepSeek V3.1 a montré un biais humain clair (+12 mois de peine pour un médecin), tandis que les autres modèles ont montré des différences faibles ou incohérentes.
  • Prestige des diplômes : C'est ici que la réduction est la plus marquée. L'impact des diplômes (Yale vs. État) sur la probabilité de peine de mort était minime chez les LLMs (différence de 0,1 à 0,6 point) comparé à l'effet humain significatif (+1,5 point).

C. Variabilité et Cohérence

• Incohérence inter-modèle : Il existe des écarts majeurs entre les modèles.
  • ChatGPT 5 Instant s'est révélé le plus cohérent et le plus "juste".
  • Gemini 2.5 Flash a montré la plus grande variabilité (ex. : compensations allant de 20M$à 325M$ pour le même scénario), ce qui pose un risque critique pour la fiabilité judiciaire.
• Refus de réponse : Certains modèles (notamment Claude Sonnet 4) ont refusé de traiter certains scénarios (notamment ceux impliquant des agressions sexuelles), limitant leur utilité pratique.

4. Contributions Principales

1. Première évaluation systématique : C'est la première étude à évaluer spécifiquement les LLMs sur l'effet de la victime vertueuse et l'effet de halo dans un contexte judiciaire simulé.
2. Nuance sur le biais humain : L'étude démontre que les LLMs ne sont pas de simples copies des biais humains. Ils amplifient certains biais (VVE global) mais en éliminent d'autres (pénalité du consentement adjacent), suggérant une nature différente de leur "jugement".
3. Analyse comparative des modèles : Elle fournit une hiérarchie de performance entre les modèles de pointe, soulignant que l'architecture du modèle (ex. : "Thinking" vs "Instant") influence significativement la magnitude des biais.
4. Mise en garde sur la variabilité : L'article met en évidence que la variabilité des sorties (même au sein d'un même modèle) constitue un obstacle majeur à l'adoption immédiate des LLMs dans le système judiciaire, malgré une réduction potentielle de certains biais structurels.

5. Signification et Implications

• Potentiel d'amélioration de l'équité : Les LLMs pourraient servir d'outils de "sécurité structurelle" pour identifier les décisions judiciaires humaines biaisées par le prestige ou le statut, car ils semblent moins sensibles à ces facteurs extrinsèques que les humains.
• Limites actuelles : L'amplification du VVE (tendance à sur-protéger la victime) et l'incohérence des résultats empêchent une utilisation directe pour la détermination des peines. Une sur-émotionnalisation ("pro-victim") pourrait elle-même nuire à la justice en réduisant les individus à des stéréotypes unidimensionnels.
• Recommandations futures : Avant un déploiement, il est nécessaire de développer des stratégies d'atténuation de biais spécifiques aux LLMs, d'élargir les tests à d'autres biais cognitifs et d'effectuer des évaluations sur une plus grande variété de modèles.

En conclusion, bien que les LLMs offrent des perspectives prometteuses pour réduire certains biais humains systémiques (notamment liés au prestige), leur variabilité actuelle et leurs propres distorsions (VVE accru) nécessitent une approche prudente et une supervision humaine rigoureuse avant toute intégration dans le processus judiciaire.