Do Judges Behave Like Algorithms?

Stellen Sie sich eine Welt vor, in der jede Entscheidung von einem riesigen, unsichtbaren Taschenrechner getroffen wird. In dem wissenschaftlichen Bereich, der als Künstliche Intelligenz und Recht bekannt ist, fragen Forscher ständig: Sollten wir Computer die großen Entscheidungen treffen lassen, wie etwa darüber, wer ins Gefängnis kommt und wer auf freiem Fuß bleibt? Um dies zu verstehen, muss man zwei Arten der Entscheidungsfindung kennen. Die erste ist wie ein strenges Rezept: „Wer drei Fehlschläge hat, fliegt raus.“ Es ist klar, fair und jeder erhält das gleiche Ergebnis. Die zweite ist wie ein Koch, der an einer Suppe probiert: „Sie braucht noch ein wenig Salz, aber vielleicht nicht, wenn die Tomaten zu sauer sind.“ Dies ist flexibel und persönlich, aber es hängt von der Stimmung und dem Gedächtnis des Kochs ab. Jahrzehntelang wurde darüber gestritten, ob Richter einem strengen Rezept folgen oder dem flexiblen Probieren. Jetzt, da Computer intelligenter werden, hat sich die Debatte verschoben. Anstatt zu fragen, ob wir Richter durch Roboter ersetzen sollten, stellen Wissenschaftler eine wildere Frage: Handeln die Richter bereits wie Roboter? Wenn ein Richter nur einem verborgenen Rezept folgt, könnten wir es finden und korrigieren. Aber wenn sie wirklich die Suppe nach Gefühlen probieren, die wir nicht sehen können, ist das ein viel schwierigeres Problem zu lösen.

Diese Arbeit taucht in dieses Geheimnis ein, indem sie in die Köpfe von 21 Magistraten (Richtern) in Harris County, Texas, blickt, die entscheiden, ob Menschen, die wegen geringfügiger Vergehen beschuldigt werden, vor ihrem Prozess freigelassen oder inhaftiert werden sollen. Die Forscher behandelten diese Richter wie Black Boxes und versuchten, ihren Entscheidungsprozess zu dekonstruieren. Sie fragten: Können wir eine einfache, verständliche Formel schreiben, die vorhersagt, was ein spezifischer Richter tun wird? Und wenn wir das können, nutzen alle Richter dieselbe Formel, oder hat jeder Richter seinen eigenen geheimen Code?

Das Team begann mit der Bereinigung eines massiven Datensatzes von über 22.000 Fällen. Zuer-st mussten sie sich mit den „Fehlern“ befassen. Sie fanden heraus, dass etwa 2 % bis 33 % der Entscheidungen eines Richters durch keine logische Regel erklärt werden konnten. Als sie genauer hinsahmen, erkannten sie, dass dies keine mysteriösen Akte der Magie oder Voreingenommenheit waren; es waren einfach Fehler. Manchmal wurden die Computerformulare falsch ausgefüllt, manchmal wusste der Richter von einem Verbrechen in einem anderen County, das nicht in der Datenbank enthalten war, oder manchmal hörte er ein Detail im Gerichtssaal, das nie in die schriftliche Akte gelangte. Sobald sie diese „verrauschten“ Fälle entfernten, trat die wahre Geschichte zutage.

Die Forscher entdeckten überraschenderweise, dass die meisten Richter tatsächlich wie Algorithmen agieren. Für 16 der 21 Richter konnte das Team einen winzigen, einfachen Entscheidungsbaum (ein Flussdiagramm mit nur wenigen Schritten) erstellen, der die Entscheidung des Richters mit einer Genauigkeit von 85 % bis 100 % vorhersagte. Diese Formeln stützten sich auf einige klare Faktoren, wie das Alter des Angeklagten, wie viele Haftbefehle offen standen und die spezifische Art des angeklagten Verbrechens. Es stellt sich heraus, dass für viele Richter das „Suppenprobieren“ eigentlich nur dem Folgen eines sehr spezifischen, wiederholbaren Rezepts entspricht.

Hier liegt jedoch die Wendung: Obwohl die Richter wie Algorithmen handeln, nutzen sie alle unterschiedliche Algorithmen. Die Studie ergab, dass Richter sehr konsistent mit sich selbst sind – das heißt, Richter A wird in ähnlichen Fällen meistens zu 76 % die gleiche Entscheidung treffen. Aber sie sind schrecklich darin, konsistent untereinander zu sein. Als die Forscher versuchten, die „Rezeptur“ von Richter A zu verwenden, um vorherzusagen, was Richter B tun würde, scheiterte dies kläglich und performte nicht besser als eine bloße Zufallsschätzung. Tatsächlich waren sich einige Paare von Richtern bei fast jedem Fall, der junge Menschen (unter 24) betraf, uneinig. Ein Richter sieht einen jungen Menschen mit einem Haftbefehl und sagt „lassen Sie ihn frei“, während ein anderer genau dasselbe Profil sieht und sagt „halten Sie ihn fest“.

Das Papier untersuchte auch, welche Variablen am wichtigsten waren. Während Alter und Anzahl der Haftbefehle für fast alle wichtig waren, variierte das Gewicht, das sie anderen Faktoren beimessen, massiv. Einige Richter legten großen Wert darauf, ob ein Angeklagter obdachlos war oder welches Geschlecht er hatte, während andere diese Faktoren völlig ignorierten. Dies deutet darauf hin, dass das Ergebnis einer Kautionsanhörung stark davon abhängt, welchen Richter man bekommt, und nicht nur von den Fakten des Falls.

Letztendlich schlagen die Autoren vor, dass wir nicht versuchen sollten, Richter durch Computer zu ersetzen. Stattdessen sollten wir diese Erkenntnisse nutzen, um die „verborgenen Rezepte“ zu verstehen, die die Richter bereits verwenden. Wenn wir sehen können, dass Richter X junge Menschen anders behandelt als Richter Y, oder dass die Entscheidung eines Richters sich basierend auf einem fehlenden Teil der Daten ändert, können wir diese Inkonsistenzen korrigieren. Indem wir diese unsichtbaren Regeln sichtbar machen, können wir helfen, das Justizsystem gerechter und vorhersehbarer zu gestalten, um sicherzustellen, dass das „Rezept“ für alle dasselbe ist, unabhängig davon, wer gerade kocht.