AI Governance - Social Contestability Framework-vFinal
Dit artikel betoogt dat legitieme AI-governance een verschuiving vereist van interne nalevingsartefacten naar "sociale betwistbaarheid"—het vermogen van betrokken individuen om door AI gestuurde beslissingen te begrijpen, aan te vechten en te corrigeren—en stelt vijf institutionele voorwaarden en een levenscyclus-test voor om dit kader te operationaliseren over belangrijke governance-instrumenten en praktijkcasussen.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Stel je een wereld voor waarin een computerprogramma beslist of je een baan krijgt, een lening of een medische behandeling. In de afgelopen jaren hebben overheden en bedrijven een uitgebreid systeem van regels opgebouwd om ervoor te zorgen dat deze programma's zich goed gedragen. Ze maken checklists, schrijven rapporten en voeren audits uit om te bewijzen dat hun software veilig en eerlijk is. Deze regels zijn belangrijk, maar ze richten zich vaak op wat een bedrijf binnen de eigen kantoorruimtes doet. Ze controleren of de papierwinkel compleet is, maar ze vragen zelden of de persoon aan de ontvangende kant daadwerkelijk kan inspreken wanneer er iets misgaat. Deze kloof vormt de kern van een nieuwe studie door Shiraz Aslam, een onderzoeker bij Banque Saudi Fransi, die betoogt dat het hebben van een regelboek niet genoeg is als de mensen die worden geraakt door een besluit dit niet kunnen aanvechten.
Het kernidee dat het artikel verkent, wordt "sociale betwistbaarheid" genoemd. In eenvoudige bewoordingen betekent dit dat als een computer een beslissing neemt die je leven verandert, je een reële manier moet hebben om te weten dat het is gebeurd, te begrijpen waarom het is gebeurd, en een mens met werkelijke macht moet kunnen vragen om het te herstellen als het onjuist is. Het is niet genoeg voor een bedrijf om te zeggen: "We hebben een mens in de loop," als die mens slechts een stempelzetter is die geen nee kan zeggen. De studie suggereert dat ware eerlijkheid een directe lijn van communicatie vereist tussen de getroffen persoon en een instelling die de beslissing kan terugdraaien. Zonder dit kan een bedrijf perfect voldoen aan alle wetten en toch een persoon zonder rechtsmiddelen laten achter.
Om uit te zoeken hoe deze vangnet te bouwen, heeft de onderzoeker gekeken naar vier belangrijke sets regels die vandaag de wereld rond worden gebruikt: de AI Act van de Europese Unie, een risicobeheergids van het Amerikaanse National Institute of Standards and Technology, de principes van de Organisatie voor Economische Samenwerking en Ontwikkeling, en een blauwdruk van de Amerikaanse overheid voor een AI Bill of Rights. De studie vergeleek deze documenten om te zien wat ze een gewone persoon daadwerkelijk toestaat te doen. De analyse toonde een terugkerend probleem aan: deze kaders zijn uitstekend in het vertellen van bedrijven hoe ze hun eigen risico's moeten beheren, maar ze zwijgen vaak over hoe een persoon zich kan verweren tegen een slechte uitkomst. Een bedrijf kan een perfect audittraject hebben dat aantoont dat ze hun werk hebben gecontroleerd, en toch heeft de persoon aan wie de lening is geweigerd nog steeds geen duidelijk pad naar een geautoriseerde mens die van gedachten kan veranderen.
De onderzoeker onderzocht vervolgens vijf praktijkvoorbeelden waarbij geautomatiseerde systemen schade toebrachten om precies te zien waar het systeem faalde. Eén geval betrof een wervingsinstrument dat vrouwelijke sollicitanten afwees omdat het leerde van bevooroordeelde gegevens uit het verleden. Een ander betrof een gezondheidsalgoritme dat zwarte patiënten discrimineerde omdat het medische kosten gebruikte als een afkorting voor medische behoefte. Er was ook een beoordelingssysteem in het Verenigd Koninkrijk dat de oordelen van leraren overrulde met een statistische formule, en een overheidsregeling voor schulden in Australië die burgers dwong te bewijzen dat zij onschuldig waren aan fouten die zij niet hadden gemaakt. In elk geval had de instelling regels en documentatie, maar konden de betrokken mensen de beslissing niet effectief in twijfel trekken. De studie vond dat in elk van deze gevallen het systeem een specifieke reeks voorwaarden miste die de persoon in staat zouden hebben gesteld om de uitkomst te betwisten.
Uit deze mislukkingen stelt het artikel vijf specifieke voorwaarden voor die aanwezig moeten zijn om een systeem werkelijk betwistbaar te maken. Ten eerste moeten de regels strenger zijn voor beslissingen die meer schade veroorzaken; een eenvoudige fout van een chatbot heeft minder bescherming nodig dan een besluit om iemand de toegang tot de zorg te ontzeggen. Ten tweede moeten de mensen die deze beslissingen beoordelen de werkelijke macht, tijd en informatie hebben om nee te zeggen tegen de computer. Derde moet het bedrijf de beslissing uitleggen in begrijpelijke taal die de persoon precies vertelt wat hij moet doen als hij het er niet mee eens is. Ten vierde moet het duidelijk zijn wie verantwoordelijk is voor de fout, zodat de persoon niet van de ene naar de andere afdeling wordt rondgestuurd. Ten slotte moet het systeem worden gecontroleerd om te waarborgen dat de last van het herstellen van fouten niet onredelijk op kwetsbare groepen valt.
De studie introduceert een praktische test die organisaties kunnen gebruiken in elke fase van een project, van het initiële idee tot het eindproduct. Deze test stelt specifieke vragen zoals: "Hebben we een plan om mensen te laten in beroep gaan?" en "Hebben onze beoordelaars de autoriteit om het systeem te overrulen?" Wanneer de onderzoeker deze test toepaste op het Australische schuldenschandaal, bleek dat hoewel de overheid veel interne regels had gevolgd, zij de betwistbaarheidstest op bijna elke stap hadden gefaald. Ze hadden niet getest of mensen de kennisgevingen konden begrijpen, ze hadden de menselijke macht niet gegeven om de schuldenkennisgevingen te stoppen voordat ze werden verzonden, en ze hadden geen duidelijke verantwoordelijkheid toegewezen toen het systeem begon te falen. De test toonde aan dat het probleem niet een gebrek aan regels was, maar een gebrek aan een werkende verbinding tussen de persoon en de autoriteit die het probleem kan oplossen.
Het artikel concludeert dat het doel van AI-governance niet alleen moet zijn om te bewijzen dat een systeem op papier veilig is, maar om het menselijke vermogen om nee te zeggen te behouden. Het betoogt dat we onze focus moeten verschuiven van interne bedrijfsdocumenten naar de relatie tussen de instelling en de burger. Als een systeem niet kan worden uitgedaagd, gecorrigeerd of gestopt door de mensen die het raken, dan is het niet werkelijk gereguleerd, ongeacht hoeveel checklists het bedrijf heeft ingevuld. De studie beweert niet dat het alle problemen in kunstmatige intelligentie heeft opgelost, maar biedt een duidelijke, praktische manier om te controleren of de mensen aan de andere kant van het scherm een stem hebben. Het suggereert dat de ware maatstaf van een eerlijk systeem niet is of het de regels volgt, maar of het degenen die het beïnvloedt in staat stelt om het ter verantwoording te roepen.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.