AI, Digital Platforms, and the New Systemic Risk
Dit artikel bekritiseert de beperkte definities van systemisch risico in de huidige EU-wetgeving, zoals de AI-wet en de DSA, en stelt een uitgebreid, meerlagig raamwerk voor dat is ontleend aan de financiële sector en de theorie van complexe systemen om beter in te spelen op opkomende bedreigingen zoals het falen van multi-agent systemen, grootschalige discriminatie en systematische hallucinaties in hybride AI-platforminfrastructuur.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Stel je voor dat je een stad bouwt. In het verleden, als één enkel huis in brand vloog, was dat een tragedie voor die familie, maar de rest van de stad bleef functioneren. Dat noemden we "individueel risico". Maar vandaag is onze stad gebouwd op een nieuw soort fundament: een massief, onderling verbonden web van digitale platformen en Kunstmatige Intelligentie (KI).
Dit artikel stelt dat we geconfronteerd worden met een nieuw soort gevaar dat Systeemrisico wordt genoemd. Denk hierbij niet aan een enkel huisbrandje, maar aan een situatie waarin een kleine vonk in één deel van de stad een kettingreactie kan veroorzaken, waardoor het hele elektriciteitsnet uitvalt, de watervoorziening stopt en de hele stad instort.
Hieronder volgt een uiteenzetting van de belangrijkste ideeën uit het artikel, gebruikmakend van eenvoudige analogieën:
1. De oude regels passen niet bij de nieuwe stad
De auteurs kijken hoe we in het verleden grote rampen hebben aangepakt, specifiek in de financiële sector (zoals de bankencrisis van 2008). In de financiën leerden toezichthouders dat als één grote bank faalt, dit de hele economie kan meeslepen. Ze bouwden regels om dat te voorkomen.
Nu heeft de EU geprobeerd vergelijkbare regels toe te passen op KI en digitale platformen met twee nieuwe wetten:
- De Digital Services Act (DSA): Dit is een regelboek voor de "stadpleinen" (sociale media, zoekmachines). Het zegt: "Als je plein enorm is (45 miljoen mensen), moet je op grote problemen passen zoals illegale inhoud, inmenging in verkiezingen of schade aan kinderen."
- De AI Act: Dit is een regelboek voor de "motoren" (de KI-modellen zelf). Het zegt: "Als je motor de krachtigste is die ooit is gebouwd, ben je gevaarlijk en moet je gereguleerd worden."
Het probleem: De auteurs betogen dat de AI Act naar het verkeerde ding kijkt. Het gaat ervan uit dat alleen de "meest geavanceerde" motoren (de grootste, duurste) een stadswijde instorting kunnen veroorzaken. Ze zeggen dat dit is alsof je denkt dat alleen een enorme kerncentrale een stroomstoring kan veroorzaken, en het feit negeert dat een miljoen kleine, slecht onderhouden generatoren ook een netstoring kunnen veroorzaken als ze allemaal tegelijk uitvallen.
2. De vier niveaus van gevaar
Het artikel creëert een nieuwe kaart om te begrijpen hoe deze digitale storingen zich verspreiden. Ze identificeren vier niveaus waarop dingen mis kunnen gaan:
- Niveau 1: De enkele motor (Risico van een enkel model). Stel je voor dat één specifiek KI-model door bijna iedereen wordt gebruikt voor het aannemen van personeel, het verstrekken van leningen en het schrijven van nieuwsberichten. Als dat ene model een bug of een vooroordeel heeft, krijgt iedereen op hetzelfde moment hetzelfde slechte advies. Het is een "monocultuur"-ramp.
- Niveau 2: De kuddepsychologie (Risico van meerdere modellen). Stel je voor dat duizenden verschillende bedrijven allemaal KI-modellen gebruiken die zijn getraind op exact dezelfde data. Als die data gebrekkig is, zullen al die verschillende bedrijven exact dezelfde fout tegelijkertijd maken. Het is als een kudde auto's die allemaal tegelijkertijd naar links uitwijken omdat ze hetzelfde neppe verkeersbord hebben gezien.
- Niveau 3: De motor op het plein (Integratie van model en platform). Dit is wanneer een KI-motor direct is aangesloten op een sociaal mediaplatform. De KI schrijft een bericht en het algoritme van het platform duwt dit direct naar miljoenen mensen. Het artikel gebruikt het voorbeeld van een KI die schadelijke afbeeldingen genereert die vervolgens viraal gaan. De KI creëert het gif en het platform is de vrachtwagen die het overal verspreidt.
- Niveau 4: De motor in de overheid (Integratie van model en instelling). Dit is wanneer KI wordt gebruikt om de kritieke systemen van de stad te runnen, zoals politievoorspellingen of gerechtelijke beslissingen. Als de KI vooroordelen heeft, doet het niet alleen één persoon pijn; het verandert het hele justitiële systeem, waardoor onschuldige mensen worden opgesloten of hele groepen mensen systematisch worden geweigerd voor leningen.
3. De regels testen met echte voorbeelden
De auteurs testen hun nieuwe kaart tegen drie specifieke problemen om te zien of de huidige wetten deze opvangen:
Discriminatie (Vooroordeel):
- Huidige wet: De AI Act zegt dat alleen de "meest geavanceerde" modellen risicovol zijn. Maar de auteurs zeggen dat zelfs oudere, kleinere modellen miljoenen mensen kunnen discrimineren als ze overal worden gebruikt.
- Uitspraak: De huidige wetten missen dit misschien omdat ze te veel gefocust zijn op hoe "slim" het model is, in plaats van hoe breed het wordt gebruikt.
Hallucinaties (Lekken):
- Huidige wet: De AI Act focust op risico's met "hoge impact". Maar de auteurs wijzen erop dat KI-leugens (hallucinaties) eigenlijk minder voorkomen in de nieuwste, meest geavanceerde modellen, maar nog steeds zeer vaak voorkomen in iets oudere modellen.
- Uitspraak: Als de wet alleen de "slimste" modellen reguleert, negeert het misschien de modellen die eigenlijk het meest liegen. Als een KI zelfverzekerd een leugen vertelt aan een miljoen mensen, is dat een systeemrisico, zelfs als de KI niet de "slimste" is.
Klimaatverandering (Milieu):
- Huidige wet: De AI Act definieert risico als iets dat de "markt van de Unie" (de economie) schaadt.
- Uitspraak: De auteurs betogen dat dit een vergissing is. Het verbranden van enorme hoeveelheden energie om KI te trainen schaadt de planeet, wat iedereen schaadt, niet alleen de economie. Je kunt geen prijskaartje plakken op een bewoonbare planeet. De huidige wet is te gefocust op geld en mist de milieuramp.
4. De oplossing: Een betere kaart
Het artikel concludeert dat we moeten veranderen hoe we denken over risico.
- Stop met alleen kijken naar de "slimste" KI: Risico gaat niet over hoe krachtig een model is; het gaat over hoe verbonden het is. Een kleine KI die wordt gebruikt door een bank, een ziekenhuis en een school, is gevaarlijker dan een super-KI die alleen wordt gebruikt om grappen te schrijven.
- Kijk naar de "stad", niet alleen naar de "motor": We moeten reguleren hoe KI en platformen samenwerken. Een vooroordelelijke KI-uitvoer is slecht, maar een vooroordelelijke KI-uitvoer die wordt versterkt door een sociaal media-algoritme om miljoenen te bereiken, is een systeemramp.
- Geef om mensen, niet alleen om markten: De wetten moeten fundamentele rechten (zoals eerlijkheid en waarheid) en het milieu beschermen, niet alleen de stabiliteit van de aandelenmarkt.
Kortom: Het artikel betoogt dat onze huidige regels zijn als proberen een overstroming te stoppen door alleen de grootste dammen te controleren, terwijl je duizenden kleine scheuren in de dijk negeert die eigenlijk zorgen dat het water stijgt. We hebben een nieuw kader nodig dat het hele onderling verbonden systeem bekijkt om te voorkomen dat de digitale stad instort.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.