Stel je een wereld voor waarin de hulpmiddelen die we gebruiken om met elkaar te communiceren zo goed worden in schrijven, lezen en organiseren dat ze de papierwinkel van het dagelijks leven voor ons kunnen afhandelen. Dit is de belofte van kunstmatige intelligentie-agenten: software die een persoon kan helpen een complexe regel te begrijpen, een formulier in te vullen of een brief aan een ambtenaar te schrijven. Decennialang hebben experts geweten dat wanneer het makkelijker wordt om iets te vragen, meer mensen erom zullen vragen. Als een overheid een aanvraag voor een uitkering eenvoudiger vindbaar en invulbaar maakt, zullen meer rechtmatige mensen zich aanmelden. Dit is een basisprincipe van hoe mensen interageren met publieke diensten. Maar nu is er een nieuwe vraag ontstaan. Wat gebeurt er als de hulpmiddelen die deze interacties makkelijker maken zo krachtig worden dat ze in één dag duizenden verzoeken kunnen genereren? De zorg is niet alleen dat er meer mensen zullen aanvragen, maar dat het enorme volume of de complexiteit van deze verzoeken de overheidsinstanties die ze moeten afhandelen zou kunnen overbelasten, wat potentieel het systeem kan breken of ambtenaren kan dwingen het proces voor iedereen moeilijker te maken.

Een team van onderzoekers zette zich af om te onderzoeken of dit scenario al aan de hand is. Ze bedachten een term voor het fenomeen: "agentic flooding" (agentische overstroming). Dit beschrijft een plotselinge toename in het aantal of de complexiteit van verzoeken aan overheidsdiensten die wordt veroorzaakt door kunstmatige intelligentie-agenten en die de capaciteit van die diensten onder druk zet. Om de omvang van het probleem te begrijpen, vertrouwden de onderzoekers niet op speculatie of computermodellen. In plaats daarvan gingen ze op zoek naar bewijs uit de echte wereld. Ze scanten overheidsdiensten in elf verschillende landen, waaronder de Verenigde Staten, Duitsland, het Verenigd Koninkrijk en Australië. Ze zochten naar elk geval waarbij ambtenaren of geloofwaardige nieuwsbronnen hadden gewezen op een piek in de vraag en dit expliciet hadden gekoppeld aan het gebruik van kunstmatige intelligentie.

Het resultaat was een verzameling van vierentachtig specifieke gevallen waar deze link werd gelegd. De onderzoekers ontdekten dat dit fenomeen al plaatsvindt binnen een breed scala aan overheidsdomeinen. Het meest voorkomende patroon dat zij observeerden was verrassend eenvoudig. In de overgrote meerderheid van de gevallen werd de toename niet veroorzaakt door volledig autonome robots die zelfstandig websites navigeren. In plaats daarvan werd het gedreven door grote taalmodellen — geavanceerde tekstgenererende hulpmiddelen — die complexe juridische of administratieve teksten creëren voor mensen om in te dienen. In één geval in Duitsland zagen sociale rechtbanken bijvoorbeeld een enorme stijging in rechtszaken waarbij de ingediende brieven duizenden pagina's lang waren, gegenereerd door AI maar ingediend door mensen. In een ander geval in Australië merkten functionarissen een golf van informatieverzoeken op die door machines geschreven leken te zijn. De gegevens suggereren dat het primaire mechanisme is dat mensen AI gebruiken om betere, langere of frequentere aanvragen te schrijven, die vervolgens het systeem binnengaan en de tijd van menselijke werkers in beslag nemen.

De onderzoekers vroegen zich vervolgens af welke diensten het meest lopen met risico. Door hun dataset te analyseren, identificeerden zij een duidelijk patroon. De diensten die het meest kwetsbaar zijn voor overstroming, zijn de diensten die een hoge financiële beloning bieden maar historisch gezien moeilijk toegankelijk waren omdat het aanvraagproces complex of verwarrend is. Wanneer AI de kosten van het navigeren door die complexiteit verlaagt, wordt de verborgen vraag ontsloten. Belastingaangiften, rechtszaken en aanvragen voor arbeidsongeschiktheidsuitkeringen passen hier perfect bij. Dit zijn diensten waarbij een succesvolle aanvraag een aanzienlijke uitbetaling kan betekenen, maar waar de papierwinkel vaak zo ontmoedigend is dat veel mensen het opgeven. De studie suggereert dat naarmate AI de papierwinkel makkelijker maakt, het aantal aanvragen voor deze specifieke diensten waarschijnlijk zal pieken, wat druk legt op de systemen die deze verwerken.

Om overheden te helpen voorbereiden, ontwikkelden de onderzoekers een manier om het risico voor een gegeven dienst te beoordelen. Ze creëerden een kader dat naar twee hoofdzaken kijkt: hoe gemakkelijk het voor een AI is om met de dienst te interageren, en hoe moeilijk het voor de overheid is om het resultaat af te handelen. Als een dienst lange, vrije tekst accepteert en weinig beperkingen heeft op het aantal keren dat iemand kan aanvragen, is deze zeer vatbaar. Als de overheidsinstantie die de aanvraag verwerkt een rigide budget heeft, een traag handmatig proces of een wettelijke verplichting heeft om elk woord van elke aanvraag te lezen, zal de impact van een toename ernstig zijn. De studie geeft aan dat hoewel de huidige druk beheersbaar is, het risico het grootst is voor deze financieel aantrekkelijke, complexe diensten.

Het artikel onderzoekt ook hoe overheden op dergelijke pieken kunnen reageren. Historisch gezien, wanneer de vraag naar een dienst piekt, proberen functionarissen de snelheid er vaak af te halen door "frictie" toe te voegen. Dit kan betekenen dat er een vergoeding wordt gevraagd om aan te vragen, een fysiek bezoek ter plaatse vereist is, of het aantal verzoeken dat een persoon kan sturen wordt beperkt. De onderzoekers vonden dat deze maatregelen vaak effectief zijn om de toename snel te stoppen. Echter, ze brengen een zware prijs met zich mee. Het toevoegen van frictie maakt de dienst moeilijker te gebruiken voor iedereen, niet alleen voor de AI-gebruikers. Het kan mensen met minder middelen of mensen die minder comfortabel zijn met technologie onevenredig hard treffen, waardoor er een onrechtvaardige barrière ontstaat voor essentiële diensten. In sommige gevallen kan het zelfs het recht op toegang tot het recht ondermijnen.

De auteurs betogen dat hoewel deze snelle oplossingen werken, ze niet de beste langetermijnoplossing zijn. Een betere aanpak is om de capaciteit van de overheid om de vraag te verwerken te vergroten. Dit kan het herontwerpen van de dienst effectiever maken, het gebruik van digitale identiteit om te verifiëren wie er aanvraagt, of zelfs het gebruik van AI aan de kant van de overheid om de routinematige delen van het werk te helpen verwerken. De studie suggereert dat overheden een keuze hebben: ze kunnen reageren op een toename door het leven van hun burgers moeilijker te maken, of ze kunnen proactief hun systemen herontwerpen om de nieuwe realiteit aan te kunnen. De onderzoekers bevelen drie onmiddellijke stappen aan. Ten eerste moeten overheden hun diensten auditeren om te zien welke het meest kwetsbaar zijn. Ten tweede moeten ze digitale identiteitssystemen integreren in de meest blootgestelde diensten om het gemakkelijker te maken om aanvragers te verifiëren en misbruik te beperken. Ten derde moeten ze de wetten rond deze maatregelen verduidelijken zodat ze weten wat ze mogen doen voordat er een crisis uitbreekt.

De studie concludeert dat hoewel de huidige situatie nog geen totale instorting van overheidsdiensten is, de trend duidelijk is. Het tijdperk van AI-agenten die de interactie met de overheid makkelijker maken is gearriveerd, en daarmee komt het risico om overspoeld te worden. Het onderzoek voorspelt geen toekomst waarin machines de overheid overnemen, maar waarschuwt wel dat de huidige manier waarop veel diensten zijn ontworpen fragiel is. Als overheden wachten tot de pieken onbeheersbaar worden, zullen ze waarschijnlijk gedwongen worden te kiezen tussen het laten breken van het systeem of het moeilijker maken voor mensen om hulp te krijgen. Het artikel suggereert dat door nu te handelen om de risico's te begrijpen en de systemen te herontwerpen, overheden deze moeilijke afweging kunnen vermijden en kunnen ervoor zorgen dat de voordelen van kunstmatige intelligentie voor iedereen gedeeld worden, in plaats van een last te worden die de meest kwetsbaren uitsluit.