The Likelihood Ratio Wall: Structural Limits on Accurate Risk Assessment for Rare Violence
Dieser Artikel argumentiert, dass Instrumente zur Risikobewertung vor der Hauptverhandlung auf eine fundamentale „Likelihood-Ratio-Wand" stoßen, bei der die Seltenheit von Gewalttaten bei Rückfällen und strukturelle Verzerrungen wie eine übermäßige Polizeipräsenz mathematisch hochkonfidente individualisierte Vorhersagen unmöglich machen, wodurch gegenwärtige Instrumente anfällig für hohe falsch-positive Raten werden, die durch eine Neujustierung nicht behoben werden können.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich vor, Sie sind Richter und müssen entscheiden, ob ein Angeklagter vor seinem Prozess in Haft bleibt. Sie haben ein neues „Risikotool", das seine Vorgeschichte durchsucht und ihm ein Label verleiht: „Hohes Risiko für Gewalt".
Das Tool soll Ihnen Folgendes mitteilen: „Wenn wir diese Person gehen lassen, besteht eine gute Chance, dass sie eine Gewalttat begeht."
Dieser Artikel argumentiert, dass dieses Tool mathematisch gesehen fast immer lügt, wenn es bei seltenen Gewaltverbrechen jemanden als „hohes Risiko" einstuft. Selbst wenn das Tool auf dem Papier beeindruckend aussieht, ist die Realität so, dass die meisten Menschen, die es als „gefährlich" markiert, bei einer Freilassung tatsächlich friedlich geblieben wären.
Hier ist die Aufschlüsselung, warum dies passiert, anhand einfacher Analogien.
1. Das Problem „Nadel im Heuhaufen" (Die Basisrate)
Gewalttätige Wiederfestnahmen sind sehr selten. An den meisten Orten begehen nur etwa 2 bis 5 von jeder 100 entlassenen Angeklagten ein neues Gewaltverbrechen.
Stellen Sie sich vor, Sie sind Sicherheitsbeamter in einem riesigen Stadion mit 10.000 Menschen. Sie suchen nach einer Person, die heimlich eine Waffe trägt (der „gewalttätige Täter").
- Das „Risikotool" ist ein Metalldetektor.
- Das Problem ist, dass der Metalldetektor nicht perfekt ist. Er piest manchmal bei harmlosen Dingen wie Gürtelschnallen oder Schlüsseln (falsche Alarme).
Da der „Bösewicht" so selten ist (1 von 10.000), wird selbst ein sehr guter Metalldetektor viel häufiger bei unschuldigen Menschen anschlagen als bei der tatsächlichen Bedrohung. Der Artikel nennt dies die Likelihood-Ratio-Mauer.
2. Die Mauer, die man nicht überwinden kann
Die Autoren beweisen eine mathematische Regel: Um 50 % der Zeit richtig zu liegen (das heißt, wenn das Tool „Hohes Risiko" sagt, besteht eine Münzwurf-Chance, dass die Person tatsächlich gefährlich ist), muss das Tool unglaublich gut darin sein, die Nadel zu finden.
- Die Realität: Aktuelle Tools sind wie ein Metalldetektor, der bei Gürtelschnallen 10-mal piest, für jede echte Waffe, die er findet.
- Die Anforderung: Um zur Hälfte richtig zu liegen, müsste das Tool 30 bis 50-mal besser darin sein, die Waffe zu erkennen als die Gürtelschnalle.
Die Analogie: Stellen Sie sich vor, Sie versuchen, ein bestimmtes Sandkorn an einem Strand zu finden. Wenn Ihr „Sandfinder" für jedes Goldkorn 100 Sandkörner aufnimmt und Gold unglaublich selten ist, werden Sie am Ende einen Eimer voller Sand halten und denken, Sie hätten Gold gefunden. Das Tool ist nicht „kaputt"; es ist nur so, dass das Gold zu selten ist, damit das Tool gut funktionieren kann.
Der Artikel zeigt, dass aktuelle Tools bei weitem nicht gut genug sind, um diese Mauer zu überwinden. Wenn sie jemanden als „Hohes Risiko" markieren, liegen sie meistens falsch.
3. Warum „Anpassen" des Tools nicht hilft (Neukalibrierung)
Sie könnten denken: „Können wir nicht einfach die Einstellungen des Tools anpassen, um es genauer zu machen?"
Die Autoren sagen nein. Sie beweisen, dass das Ändern der Zahlen (Neukalibrierung) wie das Neustreichen des Metalldetektors ist. Sie können ihn schicker aussehen lassen oder die Lautstärke des Pieptons ändern, aber Sie können nicht daran ändern, dass er immer noch bei Gürtelschnallen piept.
Wenn die zugrunde liegenden Daten (die Geschichte der Festnahmen, frühere Anklagen usw.) nicht stark genuges Signal enthalten, um Gewalttätige von Nicht-Gewalttätigen zu trennen, kann keine Menge mathematischer Tricks dieses Signal aus dem Nichts erschaffen. Die „Mauer" ist eine strukturelle Grenze, kein Softwarefehler.
4. Die „Überwachungsdecke" (Warum bestimmte Gruppen häufiger markiert werden)
Der Artikel weist auch auf eine grausame Ironie hin: Überpolizeiung macht das Tool für bestimmte Gruppen schlechter.
Stellen Sie sich zwei Nachbarschaften vor, Nachbarschaft A und Nachbarschaft B.
- Nachbarschaft A wird normal polizeilich überwacht.
- Nachbarschaft B wird überpolizeilich überwacht. Die Polizei ist ständig dort, kontrolliert jeden die Taschen und die Akten.
Selbst wenn die Menschen in Nachbarschaft B nicht gewalttätiger sind als die Menschen in Nachbarschaft A, sammeln sie mehr „Risikomarker" (wie frühere Festnahmen oder verpasste Gerichtstermine) an, einfach weil sie genauer beobachtet werden.
Die Analogie:
- In Nachbarschaft A erhält eine Person möglicherweise nur dann einen „Risikomarker", wenn sie tatsächlich etwas Falsches tut.
- In Nachbarschaft B erhält eine Person einen „Risikomarker" nur dafür, zur falschen Zeit am falschen Ort zu sein oder wegen einer geringfügigen Verfehlung, die die Polizei in Nachbarschaft A ignoriert hätte.
Der Artikel beweist, dass Nachbarschaft B aufgrund der mehr „falschen Marker" (unschuldige Menschen, die vom System markiert werden) für das Tool weniger genau wird. Das Tool stößt auf eine „Überwachungsdecke", wo es einfach nicht präzise sein kann, egal wie intelligent der Algorithmus ist. Es markiert am Ende unschuldige Menschen in Nachbarschaft B zu einem viel höheren Grad, was das Label „Hohes Risiko" für sie noch weniger vertrauenswürdig macht.
5. Die „Anzahl der notwendigen Inhaftierungen" (Die menschlichen Kosten)
Die Autoren übersetzen diese mathematischen Probleme in reale Kosten: Wie viele Menschen müssen wir inhaftieren, um ein Gewaltverbrechen zu verhindern?
- Wenn das Tool zu 11 % richtig liegt (was laut Mathematik bei den aktuellen Leistungsstufen passiert), bedeutet dies, dass Sie 9 Menschen festhalten müssen, um 1 Gewaltverbrechen zu verhindern.
- Das impliziert, dass 8 dieser 9 Menschen unschuldig bezüglich zukünftiger Gewalt waren und unnötig ihrer Freiheit beraubt wurden.
Das Fazit
Der Artikel kommt zu dem Schluss, dass die Daten, die wir derzeit für seltene Gewaltverbrechen haben (strafrechtliche Vorstrafen, Festnahmegeschichte), nicht stark genug sind, um Entscheidungen mit hohem Vertrauen über die Inhaftierung von Menschen zu stützen.
Wenn ein Richter ein Label „Hohes Risiko für Gewalt" sieht, wird ihm gesagt, dass die Person wahrscheinlich gefährlich ist. Aber die Mathematik besagt, dass dieses Label tatsächlich in 8 oder 9 von 10 Fällen falsch ist.
Die Empfehlung:
Die Autoren schlagen vor, dass wir, wenn wir diese Tools weiter verwenden, ehrlich über die Unsicherheit sein müssen. Anstatt nur „Hohes Risiko" zu sagen, sollten die Berichte Folgendes aussagen:
„Diese Person wird als hohes Risiko markiert, aber basierend auf den aktuellen Daten besteht nur eine 11-prozentige Chance, dass diese Markierung korrekt ist. Um ein Gewaltverbrechen zu verhindern, würden wir wahrscheinlich 9 Menschen festhalten, die kein Verbrechen begangen hätten."
Der Artikel argumentiert, dass wir, solange wir keine Daten haben, die 30 bis 50-mal besser sind als die, die wir jetzt haben, aufhören sollten, diese „Hohes Risiko"-Labels als Beweis dafür zu behandeln, dass jemand gefährlich ist.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.