Who gets to verify AI? Provenance, authority and accountability in digital government
Dit artikel betoogt dat effectieve governance van AI-content vereist dat men verder gaat dan geïsoleerde etiketterings- of herkomsttools door een holistisch kader te adopteren dat onderscheid maakt tussen publieke leesbaarheid, infrastructurele verifieerbaarheid en institutionele verantwoordingsplicht gedurende de gehele contentlevenscyclus om echte verantwoording te waarborgen in plaats van louter symbolische naleving.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
In de moderne wereld vertrouwen overheidsinstanties steeds vaker op kunstmatige intelligentie om officiële mededelingen op te stellen, documenten te vertalen, afbeeldingen te creëren en zelfs de chatbots aan te sturen die vragen van burgers beantwoorden. Deze technologie biedt snelheid en efficiëntie, maar brengt een uniek gevaar met zich mee: het maakt het mogelijk om zeer overtuigende vervalste versies van officiële informatie te creëren. Een synthetische afbeelding van een publieke functionaris of een gefabriceerde noodwaarschuwing kan sneller verspreiden dan de waarheid, waardoor mensen onzeker worden over wat echt is en wat gemanufactureerd. Om dit te bestrijden, hebben toezichthouders en technologiebedrijven zich gericht op een eenvoudig idee: labeling. De logica is dat als we inhoud duidelijk kunnen markeren als "gemaakt door AI", mensen weten dat ze voorzichtig moeten zijn. Dit benadering gaat er echter van uit dat een eenvoudige waarschuwing voldoende is om vertrouwen te herstellen, waarbij voorbij wordt gegaan aan het complexe web van regels, software en menselijke beslissingen die nodig zijn om een dergelijk systeem daadwerkelijk te laten werken.
Een nieuwe studie door Shuai Wang en collega's onderzoekt of deze labelingsystemen overheden en technologiebedrijven werkelijk ter verantwoording roepen, of dat ze slechts de schijn van veiligheid wekken. De onderzoekers bestudeerden elf belangrijke regelgevende documenten en technische standaarden uit China, de Europese Unie en internationale organisaties. Ze keken naar alles, van verplichte labelingswetten tot de technische specificaties voor digitale "watermerken" die bijhouden waar een bestand vandaan komt. Hun analyse laat zien dat transparantie geen enkele schakelaar is die men simpelweg kan omzetten. In plaats daarvan ontdekten zij dat een werkend systeem drie afzonderlijke lagen vereist die samen moeten functioneren: het begrijpelijk maken van de inhoud voor het publiek, het machineleesbaar verifieerbaar maken van de oorsprong van de inhoud, en het waarborgen dat instellingen verantwoordelijk kunnen worden gehouden wanneer er zaken misgaan.
De onderzoekers ontdekten dat het simpelweg toevoegen van een zichtbaar label aan een stuk inhoud de last van verificatie vaak verschuift naar de gemiddelde burger. Als een gebruiker een waarschuwing ziet dat een afbeelding door AI is gegenereerd, maar geen manier heeft om de bron te controleren of te begrijpen wat de waarschuwing precies betekent, wordt het label een vorm van aansprakelijkheidsbeheer voor de organisatie in plaats van een instrument voor publieke veiligheid. De studie toont aan dat een label zonder een manier om dit te verifiëren lijkt op een bonnetje zonder winkeladres; het vertelt je dat er een transactie heeft plaatsgevonden, maar biedt geen bewijs van waar het vandaan kwam. Bovendien concentreren de technische systemen die ontworpen zijn om de geschiedenis van een bestand te volgen — bekend als provenance — de macht vaak in de handen van enkele grote technologiebedrijven en standaardisatieorganen. Deze systemen kunnen verifiëren dat een bestand van een specifieke server komt, maar ze kunnen niet verifiëren of de informatie binnen het bestand waar is. Een document kan perfect gevolgd worden van de creatie tot de publicatie, terwijl het nog steeds valse of misleidende informatie bevat.
Misschien wel de meest cruciale bevinding is dat zelfs wanneer alle technische onderdelen aanwezig zijn, verantwoording vaak uitblijft vanwege de manier waarop het systeem is georganiseerd. De onderzoekers identificeerden zes veelvoorkomende manieren waarop deze systemen falen. Een grote fout treedt op wanneer de regels voor verschillende soorten inhoud te breed zijn, waarbij een onschuldige creatieve afbeelding hetzelfde wordt behandeld als een kritieke noodwaarschuwing, wat middelen verspilt en gevaarlijke informatie minder goed beschermt. Een andere fout vindt plaats wanneer het zichtbare label en de verborgen technische gegevens niet aan elkaar gekoppeld zijn, waardoor een organisatie een waarschuwing kan tonen terwijl de onderliggende bewijslast verloren gaat of ontoegankelijk is. De studie benadrukt ook dat wanneer een bestand wordt bewerkt of over verschillende platforms wordt gedeeld, het digitale spoor vaak wordt onderbroken, waardoor er geen manier meer is om de inhoud terug te herleiden naar de bron. In deze scenario's wordt verantwoordelijkheid gefragmenteerd; de softwareleverancier geeft de schuld aan het platform, het platform geeft de schuld aan de gebruiker, en de toezichthouder heeft niet de macht of de technische capaciteit om het verhaal weer in elkaar te zetten.
De auteurs betogen dat voor transparantie betekenisvol te zijn, het moet worden behandeld als een stuk publieke infrastructuur in plaats van een eenvoudige technische oplossing. Dit betekent dat labelingsregels verbonden moeten zijn met toegankelijke verificatiehulpmiddelen waarmee burgers de bron van informatie kunnen controleren. Het vereist ook dat instellingen de autoriteit en de capaciteit hebben om toegang te krijgen tot de gegevens die nodig zijn om schuld toe te wijzen en correcties af te dwingen wanneer desinformatie zich verspreidt. De studie suggereert dat een succesvol systeem de vraag "wie heeft dit gemaakt?" moet scheiden van de vraag "is dit waar?", om er zeker van te zijn dat een geverifieerde bron niet automatisch betekent dat de inhoud accuraat is. Uiteindelijk concludeert het onderzoek dat meer openheid niet automatisch leidt tot meer verantwoording. Zonder de zichtbare labels te verbinden aan verifieerbaar bewijs en ervoor te zorgen dat instellingen in staat zijn te handelen op basis van dat bewijs, riskeert de huidige golf van AI-labeling een vorm van "trust theater" (vertrouwenstheater) te worden, waarbij de tekenen van veiligheid zichtbaar zijn, maar de mogelijkheid om het publiek daadwerkelijk te beschermen buiten bereik blijft.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.