Correcting AI-generated false criminal allegations: a human-rights framework for remedial closure

Stel je een wereld voor waarin een computerprogramma, ontworpen om vragen te beantwoorden en verhalen te vertellen, plotseling een misdaad verzint. Het maakt niet slechts een kleine fout over een datum of een naam; het fabriceert een verhaal dat een specifiek, levend persoon zijn eigen kinderen heeft vermoord en een lange gevangenisstraf uitzit. Dit is geen scène uit een thrillerroman, maar een reële mogelijkheid gecreëerd door moderne kunstmatige intelligentie. Wanneer een dergelijke leugen op een scherm verschijnt, is dat al erg genoeg, maar het gevaar stopt daar niet. Het valse verhaal kan zich verstoppen in het geheugen van de computer, door de interne systemen reizen en worden verzonden naar andere organisaties die de antwoorden van de computer gebruiken om belangrijke beslissingen te nemen over banen, leningen of veiligheid. Dit creëert een situatie waarin een persoon als een crimineel wordt behandeld, niet omdat hij een misdaad heeft gepleegd, maar omdat een machine er een heeft verzonnen en er niet volledig in is geslaagd deze te wissen. De kernvraag waar experts voor staan is niet alleen hoe de leugen van het scherm te verwijderen, maar hoe te weten wanneer de leugen echt is gestopt met het verspreiden door het gehele digitale systeem.

Een team van onderzoekers heeft een nieuwe manier ontwikkend om over dit probleem na te denken, waarbij ze verder gaan dan eenvoudige oplossingen om een duidelijke standaard te creëren voor wanneer een correctie werkelijk voltooid is. Zij stellen dat het simpelweg vertellen van de computer om te stoppen met het vertellen van de leugen niet genoeg is. In plaats daarvan stellen zij een stapsgewijs proces voor dat elke plek controleert waar de leugen zich zou kunnen verbergen, van het initiële antwoord tot de interne registers en de beslissingen genomen door andere mensen die de informatie hebben ontvangen. Hun werk suggereert dat een correctie pas voltooid is wanneer het verantwoordelijke bedrijf kan bewijzen dat zij heeft gecontroleerd elke bereikbare plek waar de leugen naartoe kon reizen, de registers daar heeft gecorrigeerd, en iedereen die de leugen mogelijk heeft gebruikt om een beslissing te nemen, heeft verteld dat het onjuist was. Deze aanpak behandelt het probleem niet als een enkele fout die gewist moet worden, maar als een rimpeling die op elk punt waar het schade kan veroorzaken, gestopt moet worden.

De onderzoekers bouwden hun idee op het begrip dat systemen van kunstmatige intelligentie complexe netwerken zijn. Wanneer een computer een vals verhaal genereert, kan dat verhaal op verschillende manieren worden opgeslagen. Het kan worden opgeslagen in een tijdelijk geheugen dat de computer helpt een gesprek te onthouden, of het kan worden opgehaald uit een lijst met feiten die de computer gebruikt om vragen te beantwoorden. Het kan ook via digitale verbindingen naar andere computers worden verzonden of worden gebruikt door een bank of een wervingsinstantie om te beslissen of iemand betrouwbaar is. Het team noemt deze verspreiding van valse informatie "propagatie". Zij vonden dat bestaande regels voor het herstellen van fouten zich vaak alleen richten op het uiteindelijke antwoord dat aan de gebruiker wordt getoond. Echter, als het valse verhaal blijft bestaan in het geheugen van de computer of in de registers van een bedrijf dat het heeft ontvangen, kan de computer de leugen later opnieuw vertellen, of kan het bedrijf de onschuldige persoon blijven behandelen als schuldig.

Om dit op te lossen, creëerden de onderzoekers een raamwerk dat fungeert als een checklist voor het oplossen van het probleem. De eerste stap is dat de persoon die schade heeft geleden duidelijk aangeeft wat de leugen is en bewijs levert dat deze onwaar is. Zodra dit is gebeurd, moet het verantwoordelijke bedrijf een onderzoek instellen. Ze kunnen niet simpelweg zeggen: "we hebben het hersteld." Ze moeten precies laten zien waar ze gezocht hebben. Dit omvat het controleren van het hoofdbestek, het interne geheugen, de lijsten met feiten en eventuele verbindingen met andere systemen. Als het bedrijf ontdekt dat de leugen is gebruikt om een beslissing te nemen, zoals het weigeren van een baan of het markeren van iemand als een risico, moeten zij ook controleren of die beslissing kan worden herzien of gewijzigd. Het doel is om ervoor te zorgen dat de leugen niet alleen uit het zicht wordt verborgen, maar wordt verwijderd uit de plaatsen waar het echte schade kan aanrichten.

Een cruciaal onderdeel van deze nieuwe standaard is het idee van "redelijke afsluiting" (reasonable closure). De onderzoekers erkennen dat het onmogelijk kan zijn om elke computer ter wereld te controleren of te garanderen dat een leugen nooit meer op een miljoen verschillende manieren zal verschijnen. In plaats daarvan stellen zij voor dat een bedrijf voldoende heeft gedaan wanneer zij elke plek hebben gecontroleerd die zij redelijkerwijs kunnen bereiken en controleren. Zij moeten hun werk documenteren, door aan te tonen welke delen van het systeem zij hebben hersteld en welke delen zij niet konden bereiken. Als zij een bepaald deel niet kunnen bereiken, moeten zij uitleggen waarom dit te moeilijk of onmogelijk was. Deze documentatie dient als bewijs dat zij hun plicht hebben vervuld. Dit verschuift de focus van een perfecte, onmogelijke garantie naar een praktische, verifieerbare inspanning die de grenzen van de technologie respecteert terwijl de rechten van de benadeelde persoon worden beschermd.

De onderzoekers testten hun idee met behulp van een praktijkvoorbeeld waarbij een persoon vals werd beschuldigd van een verschrikkelijke misdaad door een populaire chatbot. In dat geval ging de klacht niet alleen over het feit dat de chatbot het verkeerde zei, maar over de mogelijkheid dat de leugen in het systeem zou voortleven. Door hun nieuwe checklist toe te passen, lieten de onderzoekers zien hoe een bedrijf van simpelweg het verwijderen van het antwoord naar een grondiger proces kon gaan. Dit zou het controleren van het interne geheugen inhouden om te verzekeren dat de leugen daar niet is opgeslagen, het verifiëren dat de leugen niet is opgeslagen op een manier waarop deze later kan worden opgehaald, en het contacteren van organisaties die mogelijk de valse informatie hebben ontvangen. Als een organisatie de leugen heeft gebruikt om een beslissing te nemen, zou het bedrijf hulp moeten bieden om hen de fout te laten begrijpen, zodat de beslissing heroverwogen kan worden.

Deze aanpak verduidelijkt ook wie verantwoordelijk is voor wat. In een complex systeem waarin veel verschillende bedrijven betrokken kunnen zijn, zeggen de onderzoekers dat elk bedrijf verantwoordelijk is voor de onderdelen van het systeem die zij controleren. Als een bedrijf een vals verhaal naar een ander bedrijf stuurt, moet het eerste bedrijf het tweede bedrijf laten weten dat het verhaal onwaar is. Echter, het eerste bedrijf is niet verantwoordelijk voor het herstellen van de interne systemen van het tweede bedrijf. Elk bedrijf moet de onderdelen herstellen die zij zelf bezitten. Dit voorkomt de verwarring van het proberen verantwoordelijk te houden van één persoon voor het gehele wereldwijde netwerk, terwijl het tegelijkertijd ervoor zorgt dat elke schakel in de keten haar deel doet om de verspreiding van de leugen te stoppen.

De onderzoekers merken zorgvuldig op dat deze standaard geen toverstaf is die alle fouten voor altijd doet verdwijnen. Zij geven toe dat technologie constant verandert en dat er nieuwe manieren kunnen ontstaan waarop leugens zich verspreiden. Hun standaard is ontworpen om flexibel te zijn, waardoor herziening mogelijk is als een leugen in een nieuwe vorm verschijnt. Zij benadrukken ook dat dit proces de rechten van anderen moet respecteren, zoals de vrijheid om echte misdaden te rapporteren of om publieke gebeurtenissen te bespreken. Het doel is om alleen de valse, schadelijke leugens te verwijderen, niet om de geschiedenis uit te wissen of legitieme spraak de mond te snoeren. Door te focussen op geverifieerde, ernstige leugens die echte schade veroorzaken, beoogt het raamwerk mensen te beschermen zonder een systeem te creëren dat te zwaar of te restrictief is om te functioneren.

Uiteindelijk biedt dit onderzoek een manier om orde te brengen in een chaotisch probleem. Het verplaatst het gesprek van de vraag "Heb je de leugen verwijderd?" naar "Kun je bewijzen dat je de leugen hebt gestopt met het veroorzaken van meer schade?". Het biedt een duidelijk pad voor bedrijven om te volgen en voor toezichthouders om te controleren. Door te eisen dat er actie wordt bewezen in plaats van alleen beloftes, geeft het mensen die door kunstmatige intelligentie zijn benadeeld een betere kans op rechtvaardigheid. Het werk suggereert dat hoewel we machines niet altijd fouten kunnen voorkomen, we wel systemen kunnen bouwen die eerlijk zijn over die fouten en grondig zijn in het herstellen ervan. Dit creëert een toekomst waarin de kracht van kunstmatige intelligentie wordt geëvenaard door een duidelijke en verantwoorde manier om fouten te corrigeren, waardoor wordt gewaarborgd dat de reputatie van een persoon niet wordt vernietigd door een hallucinatie van een machine.