Negotiating Risk Boundaries in AI for Policing Through Mixed-Stakeholder Deliberation
Dit artikel presenteert bevindingen uit een workshop met diverse belanghebbenden in het VK waar gemeenschapsvertegenwoordigers, politieagenten en academici gezamenlijk AI-politietools beoordeelden, waarbij werd vastgesteld dat het vooropstellen van raciale gelijkheid leidde tot een brede acceptatie van de meeste toepassingsgebieden op basis van een gedeelde focus op effectiviteit en universeel voordeel, in plaats van een volledige afwijzing.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Stel je voor dat je de kapitein bent van een enorm, lichtelijk wankel schip genaamd "de Samenleving". Aan boord heb je een nieuw, glimmend navigatiesysteem: Kunstmatige Intelligentie (AI). Dit is niet zomaar een kompas; het is een superintelligënte robot die stormen kan voorspellen, verborgen riffen kan opsporen en zelfs de snelste route naar je bestemming kan voorstellen. In de wereld van de politie wordt deze robot gevraagd om te helpen bij het vangen van boeven, te beslissen wie de wet mogelijk opnieuw zal overtreden en te bepalen waar agenten naartoe gestuurd moeten worden. Maar er is een addertje onder het gras: het schip heeft een geschiedenis waarbij het te dicht langs bepaalde eilanden is gevaren, wat de mensen daar schade heeft berokkend, en de robot kan die slechte gewoonten van oude kaarten hebben geleerd.
Dit artikel duikt in een zeer specifieke hoek van de wetenschap waar technologie en menselijke rechtvaardigheid elkaar ontmoeten. Het onderzoekt hoe we deze krachtige AI-instrumenten kunnen gebruiken zonder onbedoeld oude onrechtvaardigheden erger te maken. Het kernconcept is "bias" — wat als een bril werkt die je de wereld op een vertekende manier laat zien. Als de bril van de robot gekleurd is door fouten uit het verleden, kan hij een onschuldig persoon als gevaarlijk beschouwen, simpelweg vanwege wie die persoon is of waar hij woensdag woont. De grote vraag is niet alleen: "Kan de robot de klus klaren?", maar: "Zal hij de klus eerlijk uitvoeren voor iedereen?" Dit is van belang, want als we de robot de leiding over het schip laten nemen zonder zijn zicht te controleren, kunnen we tegen de heel mensen aanvaren die we juist proberen te beschermen.
Dus, wat hebben de onderzoekers eigenlijk gedaan? Ze zaten niet alleen in een lab computer simulaties te draaien. In plaats daarvan organiseerden ze een enorme, eenmalige "scheepsvergadering" met 30 mensen. Deze groep was een mix van politieagenten, gemeenschapsleiders (mensen die de straten en de strijd van hun buren kennen) en wetenschappers. Ze gingen samen zitten om naar 13 verschillende manieren te kijken waarop de politie AI zou kunnen gebruiken. Ze vroegen niet alleen: "Is deze hippe tech cool?", maar ze vroegen: "Werkt het? Helpt het? En helpt het iedereen?"
De resultaten waren verrassend genuanceerd. De groep gooide het hele idee van AI niet weg. Sterker nog, ze stonden er grotendeels voor open! Ze zeiden alleen "Nee, absoluut niet" tegen drie specifieke toepassingen. De grootste "Nee" ging naar instrumenten die proberen te voorspellen of iemand weer een misdaad zal begaan (zogenaamde "recidivisme-risico"). De deelnemers vonden het fundamentele idee om het toekomstige gedrag van iemand te raden al gebrekkig, niet alleen de code zelf. Ze voerden aan dat als het systeem is gebouwd op oude arrestatiegegevens, het simpelweg dezelfde mensen keer op keer zal blijven straffen, als een hamsterwiel dat nooit stopt met draaien.
Echter, voor andere instrumenten, zoals het gebruik van AI om misdaadhotspots te detecteren of om agenten te helpen bij het schrijven van rapporten, was de groep bereid het een kans te geven. Maar ze stelden strikte regels. Ze wilden niet dat de robot de kapitein was; ze wilden dat het een behulpzame co-piloot was. Ze stelden erop aan dat de menselijke agent altijd de laatste beslissing moet nemen. Ze eisten ook dat de AI transparant is — geen magische "black boxes". Als het hulpmiddel gebruikt gaat worden, moet het bewijzen dat het daadwerkelijk werkt en niet alleen een vals gevoel van efficiëntie creëert.
Een van de meest fascinerende dingen die de onderzoekers ontdekten, was hoe de groep communiceerde. Hoewel de vergadering zwaar gericht was op raciale bias, groeide het gesprek vanzelf uit tot iets groters. De deelnemers begonnen voor elk instrument dezelfde drie vragen te stellen: "Werkt het echt? Brengt het echte voordelen? En bereiken die voordelen iedereen, niet alleen de gelukkigen?"
Dit is vergelijkbaar met het "curb-cut effect" in het stedelijk ontwerp. Je weet hoe een hellingbaan die gebouwd is voor een rolstoelgebruiker ook helpt bij iemand die een kinderwagen duwt, een bezorger met een karretje, of een reiziger met een koffer. De onderzoekers ontdekten dat door AI te ontwerpen met de meest gemarginaliseerde gemeenschappen in gedachten, ze eindigden met het stellen van betere vragen die de instrumenten veiliger en nuttiger maakten voor iedereen. Ze realiseerden zich dat als je het hulpmiddel corrigeert voor de mensen die er het meest door getroffen kunnen worden, je het meestal voor iedereen corrigeert.
Uiteindelijk suggereert dit artikel dat de beste manier om eerlijke AI te bouren niet is door een checklist van "niet doen" te hebben of door alleen technici te laten beslissen. Het is om de hele gemeenschap vroegtijdig aan tafel te brengen. De deelnemers lieten zien dat wanneer je verschillende stemmen mengt — politie, gemeenschapsleden en wetenschappers — je een duidelijker beeld krijgt van de risico's. Ze verwierpen vooruitgang niet; ze eisten alleen dat vooruitgang eerlijk, nuttig en rechtvaardig is. Ze bewezen dat als je een robot wilt die het schip veilig laat varen, je naar de mensen moet luisteren die de wateren het beste kennen.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.