Negotiating Risk Boundaries in AI for Policing Through Mixed-Stakeholder Deliberation
Dieses Paper präsentiert die Ergebnisse eines Stakeholder-Workshops in Großbritannien, bei dem Vertreter der Gemeinschaft, Polizeibeamte und Akademiker gemeinsam KI-gestützte Polizeiverfahren bewerteten, wobei sich zeigte, dass die Hervorhebung der rassistischen Gerechtigkeit zu einer breiten Akzeptanz der meisten Anwendungsfälle führte, da der Fokus auf eine gemeinsame Ausrichtung auf Wirksamkeit und universellen Nutzen statt auf eine reine Ablehnung gelegt wurde.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich vor, Sie sind der Kapitän eines riesigen, leicht baufälligen Schiffes namens „Gesellschaft“. An Bord hat dieses Schiff ein neues, glänzendes Navigationssystem bekommen: Künstliche Intelligenz (KI). Dies ist nicht nur ein Kompass; es ist ein superintelligenter Roboter, der Stürme vorhersagen, versteckte Riffe entdecken und sogar den schnellsten Weg zu Ihrem Ziel vorschlagen kann. In der Welt der Polizeiarbeit wird dieser Roboter gebeten, beim Fangen von Verbrechern zu helfen, zu entscheiden, wer erneut Gesetze brechen könnte, und herauszufinden, wohin Offiziere geschickt werden sollen. Aber der Haken an der Sache ist: Das Schiff hat eine Geschichte, in der es zu nah an bestimmten Inseln vorbeigesteuert ist und die Menschen dort verletzt hat, und der Roboter könnte diese schlechten Gewohnheiten von alten Seekarten gelernt haben.
Dieses Papier taucht in eine sehr spezifische Ecke der Wissenschaft ein, in der Technologie auf menschliche Fairness trifft. Es untersucht, wie wir diese leistungsstarken KI-Werkzeuge nutzen können, ohne versehentlich alte Ungerechtigkeiten zu verschlimmern. Die Kernidee ist „Bias“ – was wie eine Brille ist, die die Welt auf verzerrte Weise erscheinen lässt. Wenn die Brille des Roboters durch vergangene Fehler getönt ist, könnte er einen harmlosen Menschen für gefährlich halten, nur aufgrund dessen, wer er ist oder wo er lebt. Die große Frage ist nicht nur: „Kann der Roboter den Job erledigen?“, sondern: „Wird er den Job für alle gerecht erledigen?“ Das ist wichtig, denn wenn wir den Roboter das Schiff steuern lassen, ohne seine Sichtweise zu überprüfen, könnten wir mit genau den Menschen zusammenstoßen, die wir eigentlich zu schützen versuchen.
Was haben die Forscher also eigentlich gemacht? Sie saßen nicht einfach nur in einem Labor und führten Computersimulationen durch. Stattdessen organisierten sie eine massive, eintägige „Schiffssitzung“ mit 30 Personen. Diese Gruppe war eine Mischung aus Polizeibeamten, Gemeindeführern (Menschen, die die Straßen und die Sorgen ihrer Nachbarn kennen) und Wissenschaftlern. Sie setzten sich zusammen, um sich 13 verschiedene Arten anzusehen, wie die Polizei KI einsetzen könnte. Sie fragten nicht nur: „Ist das eine coole Technik?“ Sie fragten: „Funktioniert das? Hilft es? Und hilft es allen?“
Die Ergebnisse waren überraschend nuanciert. Die Gruppe warf die ganze Idee der KI nicht über den Haufen. Tatsächlich standen sie ihr größtenteils offen gegenüber! Sie sagten nur zu drei spezifischen Anwendungen ein klares „Nein, auf gar keinen Fall“. Das größte „Nein“ galt Werkzeugen, die versuchen vorherzusagen, ob jemand erneut eine Straftat begehen wird (sogenanntes „Rückfallrisiko“ oder „Recidivism Risk“). Die Teilnehmer hatten das Gefühl, dass allein die Vorstellung, das zukünftige Verhalten eines Menschen zu erraten, fehlerhaft sei, nicht nur der Code. Sie argumentierten, dass, wenn das System auf vergangenen Verhaftungsstatistiken basiert, es einfach immer wieder dieselben Menschen bestrafen wird, wie ein Hamsterrad, das niemals aufhört zu rotieren.
Für andere Werkzeuge jedoch, wie etwa den Einsatz von KI, um Kriminalitätsschwerpunkte (Hotspots) zu identifizieren oder um Polizisten beim Schreiben von Berichten zu unterstützen, war die Gruppe eher bereit, es zu versuchen. Aber sie stellten strenge Regeln auf. Sie wollten nicht, dass der Roboter der Kapitän ist; sie wollten, dass er ein hilfreicher Co-Pilot ist. Sie bestanden darauf, dass der menschliche Beamte immer das letzte Wort haben muss. Sie forderten zudem, dass die KI transparent sein muss – keine magischen „Black Boxes“. Wenn das Werkzeug eingesetzt wird, muss es beweisen, dass es tatsächlich funktioniert und nicht nur ein falsches Gefühl von Effizienz erzeugt.
Eines der faszinierendsten Dinge, die die Forscher fanden, war die Art und Weise, wie die Gruppe diskutierte. Obwohl die Sitzung schwerpunktmäßig auf rassistische Voreingenommenheit (Racial Bias) ausgerichtet war, entwickelte sich das Gespräch ganz natürlich zu etwas Größerem. Die Teilnehmer begannen, für jedes einzelne Werkzeug dieselben drei Fragen zu stellen: „Funktioniert es tatsächlich? Bringt es echte Vorteile? Und erreichen diese Vorteile auch alle, nicht nur die Glücklichen?“
Dies ist wie der „Curb-Cut-Effekt“ (Bordsteinabsenkungs-Effekt) im Städtebau. Wissen Sie, wie eine Rampe, die für einen Rollstuhlfahrer gebaut wurde, auch jemandem hilft, der einen Kinderwagen schiebt, einer Lieferperson mit einem Wagen oder einem Reisenden mit einem Koffer? Die Forscher fanden heraus, dass, indem sie die KI mit Blick auf die am stärksten marginalisierten Gemeinschaften entwerfen, sie am Ende bessere Fragen stellten, die die Werkzeuge für alle sicherer und nützlicher machten. Sie erkannten: Wenn man das Werkzeug für die Menschen optimiert, die am ehesten durch es verletzt werden könnten, repariert man es in der Regel auch für alle anderen.
Letztendlich legt dieses Papier nahe, dass der beste Weg, eine faire KI zu bauen, nicht darin besteht, eine Checkliste von „Verboten“ zu erstellen oder nur Technikexperten entscheiden zu lassen. Es geht darum, die gesamte Gemeinschaft frühzeitig an den Tisch zu holen. Die Teilnehmer zeigten, dass man ein klareres Bild der Risiken erhält, wenn man verschiedene Stimmen mischt – Polizei, Gemeindemitglieder und Wissenschaftler. Sie lehnten den Fortschritt nicht ab; sie forderten lediglich, dass der Fortschritt ehrlich, hilfreich und gerecht ist. Sie bewiesen: Wenn man möchte, dass ein Roboter hilft, das Schiff sicher zu steuern, muss man den Menschen zuhören, die das Gewässer am besten kennen.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.