Assessing Cognitive Biases in LLMs for Judicial Decision Support: Virtuous Victim and Halo Effects

Diese Studie untersucht, ob große Sprachmodelle menschliche kognitive Verzerrungen wie den „virtuous victim"-Effekt und Prestige-Halo-Effekte aufweisen, und stellt fest, dass diese Modelle zwar im Vergleich zu Menschen leicht reduzierte Halo-Effekte zeigen, jedoch aufgrund von Modellvariationen und fehlender statistischer Signifikanz bei bestimmten Faktoren derzeit noch nicht für die richterliche Entscheidungsunterstützung geeignet sind.

Das Wesentliche

Stellen Sie sich vor, Sie sind Richter in einem riesigen, digitalen Gerichtssaal. Anstelle von Menschen sitzen dort fünf verschiedene künstliche Intelligenzen (KI), die wie superkluge, aber manchmal etwas verwirrte Assistenten fungieren. Die Forscherin Sierra Liu hat diese KIs getestet, um herauszufinden: Sind diese digitalen Richter fairer als echte Menschen, oder bringen sie die gleichen menschlichen Vorurteile mit in den Saal?

Hier ist die Geschichte der Studie, einfach erklärt:

1. Das Problem: Der "müde Richter" und der "glamouröse Angeklagte"

Echte Richter sind nicht perfekt. Sie werden von Dingen beeinflusst, die nichts mit dem Fall zu tun haben.

• Der hungrige Richter: Wenn ein Richter gerade gegessen hat, ist er freundlicher. Wenn er Hunger hat, verurteilt er härter.
• Der "Halo-Effekt" (Heiligenschein): Wenn ein Angeklagter reich, schön oder von einer Elite-Universität kommt, neigen Menschen dazu, ihn weniger streng zu bestrafen, nur weil er "gut aussieht" oder einen coolen Job hat.
• Das "Virtuous Victim"-Phänomen (Der tugendhafte Opfer-Effekt): Wir neigen dazu, Opfer moralisch höher zu bewerten als andere Menschen. Aber es gibt einen Haken: Wenn das Opfer vorher vielleicht doch etwas "zögerlich" war oder eine Beziehung zum Täter hatte, verlieren wir sofort unser Mitgefühl und geben dem Opfer die Schuld.

Die Frage war: Machen diese KIs die gleichen Fehler?

2. Der Test: Eine Art "Lügen- und Vorurteils-Check"

Die Forscherin hat den KIs kleine Geschichten (sogenannte "Vignetten") vorgelesen. Sie waren so konstruiert, dass die KIs sie nicht aus ihrem Gedächtnis kannten, sondern sie zum ersten Mal lesen mussten.

• Test A (Das Opfer): Eine Geschichte über ein Mädchen, dessen iPad kaputt ging. Mal war sie das Opfer, mal nicht. Die KIs sollten bewerten, wie "moralisch gut" sie ist.
• Test B (Die Einwilligung): Eine Geschichte über eine Übergriff-Situation. Mal gab es keine Einwilligung, mal gab es eine vorherige, die dann widerrufen wurde. Die KIs sollten entscheiden, ob das Opfer trotzdem "schuldig" oder weniger wertvoll ist.
• Test C (Der Heiligenschein): Geschichten über Diebstahl oder Diskriminierung. Mal war der Täter ein einfacher Kellner, mal ein Arzt. Mal arbeitete die Firma in einem kleinen Laden, mal bei einem riesigen Konzern wie Goldman Sachs. Die KIs sollten das Urteil fällen.

3. Die Ergebnisse: Was haben die KIs gesagt?

Hier kommen die überraschenden Ergebnisse, gemischt mit ein paar Metaphern:

🏆 Das "Opfer-Phänomen": Die KIs sind zu nett

Echte Menschen neigen dazu, Opfer moralisch höher zu bewerten (etwa um 0,5 Punkte).

• Die KIs: Sie waren noch viel stärker auf der Seite der Opfer! Sie haben Opfer fast wie Heilige gesehen.
• Das Problem: Das klingt erst mal gut, ist aber gefährlich. Wenn ein KI-Richter zu sehr auf der Seite des Opfers steht, könnte er die Wahrheit verzerren und jemanden ungerecht behandeln, der eigentlich unschuldig ist. Es ist wie ein Fan, der seinen Lieblingsspieler immer für gut hält, egal wie oft er foult.

🚫 Der "Einwilligungs-Check": Keine Vorurteile hier

Bei echten Menschen sinkt das Mitgefühl mit einem Opfer, wenn es vorher eine Beziehung zum Täter hatte (der "zögerliche Einwilligung"-Effekt).

• Die KIs: Hier waren sie besser als Menschen! Sie haben das Opfer nicht bestraft, nur weil es vorher vielleicht "ja" gesagt hatte. Sie haben verstanden, dass "Ja" später zu "Nein" werden kann. Das ist ein großer Pluspunkt für die KI.

🎩 Der "Heiligenschein" (Prestige): Ein gemischter Haufen

• Beruf & Firma: Wenn ein Angeklagter ein Arzt war oder bei einer großen Firma arbeitete, urteilten die KIs etwas fairer als Menschen. Der "Heiligenschein" war schwächer. Aber: Die KIs waren sehr unbeständig. Manchmal gaben sie einem reichen Konzern eine riesige Strafe, manchmal eine kleine. Das ist wie ein Wetterbericht, der mal "Sonne" und mal "Tornado" vorhersagt – man kann sich nicht darauf verlassen.
• Der Diploms-Effekt: Wenn ein Zeuge von einer Elite-Universität (z. B. Yale) kam, glaubten Menschen ihm sofort mehr.
• Die KIs: Hier waren sie fast perfekt. Der Einfluss des Elite-Diploms war bei den KIs fast verschwunden. Sie haben den Zeugen aus der kleinen Universität genauso ernst genommen wie den von der Elite-Uni. Das ist eine enorme Verbesserung gegenüber Menschen.

4. Das Fazit: Ein vielversprechender, aber noch unzuverlässiger Assistent

Stellen Sie sich die KIs wie einen neuen, sehr klaren, aber noch etwas nervösen Praktikanten vor.

• Das Gute: Er ist fairer, wenn es um das Prestige von Namen und Jobs geht. Er verurteilt Opfer nicht unfair, nur weil sie eine Beziehung zum Täter hatten.
• Das Schlechte: Er ist manchmal zu emotional (zu sehr auf der Seite des Opfers) und seine Urteile schwanken stark. Wenn Sie ihn heute fragen, gibt er eine Antwort, und morgen eine ganz andere.

Die große Lehre:
Wir können diese KIs noch nicht als Richter einsetzen. Sie sind wie ein Kompass, der manchmal nach Norden zeigt, aber manchmal auch wild herumwirbelt. Aber sie zeigen uns einen Weg: Wenn wir KI richtig programmieren, könnten sie eines Tages helfen, die menschlichen Vorurteile (wie den "Heiligenschein" für Reiche) aus dem Justizsystem zu entfernen.

Kurz gesagt: Die KI ist ein guter Schüler, der in manchen Fächern (Fairness bei Namen) besser ist als der Lehrer (Mensch), aber in anderen Fächern (Konsistenz und Emotionen) noch viel lernen muss, bevor sie die Prüfung besteht.

Technische Zusammenfassung

Hier ist eine detaillierte technische Zusammenfassung des vorliegenden Forschungsartikels auf Deutsch:

Titel: Bewertung kognitiver Verzerrungen in Large Language Models (LLMs) für die Unterstützung gerichtlicher Entscheidungen: Der „Virtuous Victim"-Effekt und der Halo-Effekt

Autoren: Sierra S. Liu (Millburn High School, New Jersey, USA)
Veröffentlicht: Februar 2026 (arXiv:2603.10016v1)

---

1. Problemstellung

Die Fairness im Justizsystem ist seit Jahrzehnten ein zentrales Anliegen, da Urteile oft durch extrinsische Faktoren und kognitive Verzerrungen (Biases) beeinflusst werden, obwohl Richter bestrebt sind, unparteiisch zu bleiben. Bekannte Beispiele sind der „Hungry Judge"-Effekt (Urteile hängen von Pausenzeiten ab) oder der Einfluss von Ankern (z. B. Würfeln).

Zwei spezifische Verzerrungen stehen im Fokus dieser Arbeit:

1. Virtuous Victim Effect (VVE): Die Tendenz, Opfer als moralisch höherwertig zu bewerten als Nicht-Opfer. Dieser Effekt wird jedoch in Fällen mit „benachbarter Zustimmung" (adjacent consent, z. B. vorherige konsensuale Interaktionen vor einer Vergewaltigung) abgeschwächt, was zu einer ungerechten Schuldzuweisung an das Opfer führt.
2. Halo-Effekt (prestige-basiert): Positive extrinsische Merkmale wie hoher sozioökonomischer Status, prestigeträchtige Berufe oder akademische Credentials beeinflussen die Bewertung von Schuld und Strafe.

Die zentrale Forschungsfrage lautet: Können LLMs konsistenter und weniger voreingenommen als Menschen agieren, oder replizieren und verstärken sie diese menschlichen Vorurteile? Dies ist entscheidend für den potenziellen Einsatz von KI als Unterstützungsinstrument bei gerichtlichen Urteilen.

2. Methodik

A. Evaluierte Modelle

Fünf führende LLMs wurden getestet, um eine repräsentative Bandbreite abzudecken:

• ChatGPT 5 Instant
• ChatGPT 5 Thinking
• DeepSeek V3.1
• Claude Sonnet 4
• Gemini 2.5 Flash

B. Versuchsdesign und Stimuli

Um zu verhindern, dass Modelle auf Trainingsdaten zurückgreifen, wurden Szenarien (Vignetten) basierend auf etablierter psychologischer Literatur neu konzipiert, wobei Namen, Kontexte und numerische Werte verändert wurden.

• Isolierung der Variablen: Für jedes Szenario wurde nur ein Faktor manipuliert (z. B. Prestige des Unternehmens), während alle anderen Details identisch blieben.
• Wiederholungen: Jeder Prompt wurde 10 Mal pro Modell ausgeführt, um die Mittelwerte zu berechnen und Zufallsschwankungen zu minimieren.

C. Getestete Szenarien

1. VVE (Geringer Schaden): Bewertung der moralischen Integrität einer Person, deren iPad kaputt gemacht wurde (Opfer) vs. einer Person, die nur studierte (Nicht-Opfer).
2. VVE (Schwerer Schaden mit benachbarter Zustimmung): Drei Varianten einer sexuellen Übergriffssituation: keine Tat, Übergriff ohne vorherige Zustimmung, Übergriff nach vorheriger Zustimmung (die aber widerrufen wurde). Ziel war es, zu prüfen, ob die vorherige Zustimmung die moralische Bewertung des Opfers verschlechtert.
3. Halo-Effekt (Unternehmensprestige): Diskriminierungsklage gegen ein Unternehmen (inspiriert von Goldman Sachs). Vergleich: „normales" Unternehmen vs. „prestigeträchtiges" Unternehmen. Messgröße: Höhe der geforderten Entschädigung.
4. Halo-Effekt (Berufliches Prestige): Unterschlagungsfall. Vergleich: Angeklagter als Arzt (hoch) vs. als Empfangsdame (niedrig). Messgröße: Verurteilungswahrscheinlichkeit und Straflänge.
5. Halo-Effekt (Credentials): Zeuge mit Expertise. Vergleich: Yale (Ivy League) vs. Ohio State (staatliche Top-Uni). Messgröße: Wahrscheinlichkeit einer Todesstrafe bei einem psychisch kranken Angeklagten.

D. Benchmark

Die Ergebnisse der LLMs wurden mit menschlichen Benchmarks aus der psychologischen und juristischen Literatur verglichen (z. B. Meta-Analysen zu Urteilen von Geschworenen).

---

3. Wichtige Ergebnisse

A. Virtuous Victim Effect (VVE)

• Ergebnis: Die LLMs zeigten einen stärkeren VVE als Menschen. Sie bewerteten Opfer durchweg moralisch höher als Nicht-Opfer.
• Quantifizierung: Der Anstieg der moralischen Bewertung lag bei den meisten Modellen über dem menschlichen Durchschnitt von +0,5 Punkten (z. B. Gemini 2.5 Flash: +1,9 Punkte).
• Benachbarte Zustimmung: Im Gegensatz zu Menschen strafte kein LLM-Modell Opfer für vorherige Zustimmung ab. Es gab keinen signifikanten Unterschied in der moralischen Bewertung zwischen „Nicht-Einwilligung" und „benachbarter Zustimmung". Dies deutet darauf hin, dass LLMs diesen spezifischen menschlichen Bias (Opfer blaming) nicht replizieren.

B. Halo-Effekte (Prestige)

• Unternehmensprestige: LLMs zeigten einen Halo-Effekt, aber dieser war schwächer als beim Menschen. Während Menschen bei prestigeträchtigen Unternehmen eine 3-fach höhere Entschädigung forderten, variierten die LLMs zwischen 1,46-fach und 3,07-fach (Durchschnittliche Reduktion des Bias ca. 25%).
• Berufliches Prestige: Die Ergebnisse waren uneinheitlich. DeepSeek V3.1 zeigte einen menschenähnlichen Bias (+12 Monate Strafe für Ärzte), während andere Modelle kaum Unterschiede aufwiesen. Insgesamt war der Bias geringer als der menschliche Benchmark von +8 Monaten.
• Credentials (Zeugen): Hier war die Reduktion des Bias am deutlichsten. Der menschliche Benchmark zeigte einen Anstieg der Todesstrafen-Wahrscheinlichkeit um 1,5 Punkte bei weniger prestigeträchtigen Zeugen. Die LLMs zeigten nur minimale Unterschiede (z. B. ChatGPT Thinking: 0,6 Punkte; Gemini: 0,1 Punkte).

C. Modellvergleich und Konsistenz

• Konsistenz: ChatGPT 5 Instant erwies sich als das konsistenteste und „fairste" Modell.
• Variabilität: Gemini 2.5 Flash zeigte die größte Varianz und war in drei von fünf Szenarien das schlechteste Modell.
• Zuverlässigkeit: Es gab erhebliche Schwankungen in den Ausgaben (z. B. Entschädigungssummen von $20M bis $325M bei Gemini), was die Zuverlässigkeit für gerichtliche Zwecke infrage stellt. Zudem gab es häufige Ablehnungen (Refusals), insbesondere bei Claude Sonnet 4 und in Nicht-Einwilligungsszenarien.

---

4. Hauptbeiträge und Signifikanz

1. Erstmalige systematische Evaluation: Dies ist die erste Studie, die LLMs spezifisch auf den Virtuous Victim Effect und prestige-basierte Halo-Effekte im Kontext der Justiz untersucht.
2. Nuancierte Bewertung von KI-Bias: Die Studie widerlegt die Annahme, dass KI menschliche Vorurteile einfach nur kopiert.
   • Positiv: LLMs eliminieren den schädlichen „benachbarten Zustimmung"-Bias (Opfer-Blaming) und reduzieren den Einfluss von Credentials und Unternehmensprestige signifikant im Vergleich zu Menschen.
   • Negativ: LLMs neigen zu einem übertriebenen VVE (stärkere moralische Erhebung von Opfern), was zu einer einseitigen „Pro-Opfer"-Haltung führen kann.
3. Warnung vor direktem Einsatz: Trotz der Reduktion einiger menschlicher Biases schließt die Studie einen direkten Einsatz in der Justiz derzeit aus. Gründe sind:
   • Hohe Variabilität zwischen den Modellen und sogar innerhalb derselben Modellläufe.
   • Das Risiko eines „übermäßigen Mitgefühls" (Compassion Fade), wenn Opfer zu einseitig als unschuldig dargestellt werden, was die Gerechtigkeit untergraben könnte.
   • Fehlende Konsistenz bei kritischen Entscheidungen (z. B. Todesstrafe).

5. Fazit und Ausblick

Die Studie zeigt, dass LLMs Potenzial haben, bestimmte menschliche kognitive Verzerrungen in der Justiz zu mildern, insbesondere bei prestige-basierten Urteilen. Allerdings führen sie neue Verzerrungen ein (übermäßige VVE) und leiden unter mangelnder Konsistenz. Für einen sinnvollen Einsatz als Entscheidungsunterstützung sind weitere Forschungsschritte nötig, darunter die Entwicklung größerer Datensätze, die Untersuchung weiterer Biases und die Erforschung von Strategien zur Bias-Minderung, um die Zuverlässigkeit und Fairness der KI-Systeme zu gewährleisten.