💻 computer science

A pragmatic classification of AI incident trajectories

Dit paper stelt een pragmatisch classificatiekader voor om AI-incidenttrajecten te analyseren door blootstelling en schadelijkheid gescheiden te schatten, waardoor beleidsmakers betere beslissingen kunnen nemen ondanks de onzekerheden in huidige incidentrapportages.

Oorspronkelijke auteurs: Isaak Mengesha, Branwen Owen, Charlie Collins, Tina Wong, Simon Mylius, Peter Slattery, Sean McGregor

Gepubliceerd 2026-04-24

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Isaak Mengesha, Branwen Owen, Charlie Collins, Tina Wong, Simon Mylius, Peter Slattery, Sean McGregor

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je kijkt naar een stormachtige zee. Je ziet veel golven (incidenten) en je maakt je zorgen of de zee gevaarlijker wordt. Maar is dat zo? Of is de zee gewoon groter geworden, waardoor er meer golven zijn, maar elke golf is eigenlijk kleiner en minder gevaarlijk?

Dit is precies het probleem dat dit wetenschappelijke artikel aanpakt. De auteurs zeggen: "Stop met gewoon het aantal ongelukken te tellen." Dat getal alleen zegt je namelijk niets over of AI echt gevaarlijker wordt, of dat we gewoon meer AI gebruiken en meer mensen erover praten.

Hier is een eenvoudige uitleg van hun oplossing, met behulp van alledaagse vergelijkingen.

1. Het Probleem: De "Aantal"-Valstrik

Op dit moment kijken we naar lijsten met AI-ongelukken (zoals een krant die alle ongelukken op de snelweg opschrijft). Als het aantal ongelukken stijgt, denken we direct: "Oh nee, AI wordt gevaarlijker!"

Maar de auteurs zeggen: Nee, wacht even. Er zijn drie dingen die tegelijk gebeuren:

Meer gebruik: Er zijn meer auto's op de weg (meer AI-systemen).
Meer kijken: Er zijn meer camera's en journalisten die ongelukken zien en melden (meer rapportage).
Echte gevaar: De auto's zelf worden daadwerkelijk gevaarlijker (meer schade per auto).

Als je alleen naar het totaal aantal kijkt, kun je deze drie niet van elkaar onderscheiden. Het is alsof je zegt: "Er zijn meer branden in het land, dus brandblussers werken niet!" Terwijl het misschien gewoon komt omdat er meer huizen zijn gebouwd.

2. De Oplossing: Een Nieuwe Kijkwijzer (Het SORT-Frame)

De auteurs stellen een nieuwe manier voor om te kijken, gebaseerd op hoe artsen kijken naar ziektes (epidemiologie). Ze gebruiken een sjabloon genaamd SORT.

Stel je voor dat je een detective bent die een raadsel oplost. Je moet je vraag heel specifiek maken:

S (Subject): Wie of wat is in gevaar? (Bijv. "Tienerjongens")
O (Opportunity): Wie komt er daadwerkelijk in aanraking met het gevaar? (Bijv. "Die een chatbot gebruiken voor troost")
R (Risk): Wat is het specifieke ongeluk? (Bijv. "Zelfmoordgedachten")
T (Time): Over welke periode kijken we? (Bijv. "Dit jaar")

In plaats van te zeggen "AI is slecht", vragen ze: "Hoe vaak komen specifieke ongelukken voor bij specifieke mensen in specifieke tijd?"

3. De Twee Sporen: "Blootstelling" vs. "Risico"

Dit is het belangrijkste idee van het papier. Ze splitsen de data in twee aparte sporen, net als bij een weegschaal:

Spoor A: Blootstelling (Exposure)
- Vergelijking: Hoeveel auto's rijden er over de weg?
- Betekenis: Hoeveel mensen gebruiken het systeem? Als dit getal stijgt, is het logisch dat er meer ongelukken zijn, zelfs als de auto's veiliger worden.
Spoor B: Risico per gebruiker (Harm-rate)
- Vergelijking: Hoe vaak crasht er één auto per miljoen kilometer?
- Betekenis: Wordt het systeem per gebruik gevaarlijker of veiliger?

4. De Vier Toekomstscenario's (De Trajecten)

Door deze twee sporen met elkaar te vergelijken, komen ze uit in vier verschillende scenario's. Dit helpt beleidsmakers te weten wat ze moeten doen:

Escalerend (De Rode Alarmbel 🚨)
- Wat gebeurt er: Meer mensen gebruiken het EN het wordt per gebruiker gevaarlijker.
- Vergelijking: Meer auto's op de weg, én ze rijden allemaal sneller en hebben slechtere remmen.
- Actie: Direct ingrijpen! Verbieden, strengere regels, onderzoek.
Mitigerend (De Groene Groeiplant 🌱)
- Wat gebeurt er: Meer mensen gebruiken het, MAAR het wordt per gebruiker veiliger.
- Vergelijking: Er zijn veel meer auto's, maar ze hebben allemaal betere remmen en airbags. Er zijn meer ongelukken in totaal, maar per auto is het veiliger.
- Actie: Blijf kijken, maar de huidige veiligheidsmaatregelen werken.
Concentrerend (De Verborgen Grootte 🎯)
- Wat gebeurt er: Minder mensen gebruiken het, MAAR voor diegenen die het doen, is het extreem gevaarlijk.
- Vergelijking: Er rijden maar weinig auto's, maar die ene auto die er is, heeft geen remmen en rijdt rechtstreeks naar een afgrond.
- Actie: Specifieke bescherming voor die kleine groep.
Terugtrekkend (De Rustige Zee 🌊)
- Wat gebeurt er: Minder gebruik EN het wordt veiliger.
- Actie: Alles lijkt onder controle. Misschien hoeft er niets te gebeuren.

5. Waarom is dit slim? (De "Gok"-Factor)

De auteurs geven eerlijk toe: we hebben vaak niet alle data. We weten niet precies hoeveel mensen een AI-chatbot gebruiken.

In plaats van te doen alsof we het precies weten (wat een leugen is), gebruiken ze tiers (niveaus).
Niveau 1: We hebben exacte cijfers (zoals bij auto-ongelukken).
Niveau 2: We moeten schatten met andere data (zoals "hoeveel mensen gebruiken internet?").
Niveau 3: We vragen experts om een gok.
Niveau 4: We geven toe: "We weten het niet."

Dit is belangrijk. Het is beter om te zeggen "We weten het niet" dan om een vals zeker getal te geven.

Conclusie: Wat betekent dit voor ons?

Dit papier zegt eigenlijk: "Stop met paniekzaaierij op basis van simpele aantallen."

Als je ziet dat het aantal AI-ongelukken stijgt, moet je eerst vragen: "Is dat omdat er meer AI is (groei), of omdat AI echt slechter werkt (risico)?"

Als het groei is, moeten we misschien gewoon beter tellen.
Als het risico is, moeten we de knoppen omleggen.

Deze methode helpt beleidsmakers om niet blindelings te reageren op nieuwsberichten, maar om slimme, op feiten gebaseerde keuzes te maken over waar ze hun energie en regels moeten inzetten. Het is een kompas in plaats van een thermometer.

Titel: Een eenvoudige classificatie van AI-incidenttrajecten

Auteurs: Isaak Mengesha et al. (Arcadia Impact, Universiteit van Amsterdam, MIT, Responsible AI Collaborative)
Datum: Preprint, april 2026

1. Het Probleem

Huidige publieke tellingen van AI-incidenten leiden tot misleidende beleidsconclusies omdat ze drie fundamenteel verschillende factoren door elkaar halen:

Rapportagebereidheid: De neiging om incidenten te observeren en te melden (beïnvloed door media-aandacht).
Blootstelling (Exposure): De schaal van de inzet en het gebruik van AI-systemen.
Hazard (Risico per eenheid): De frequentie van schade per eenheid blootstelling.

Daarnaast vertonen bestaande databases (voornamelijk nieuwsbronnen) systematische vertekeningen: ze overschatten acute, dramatische en Engelstalige incidenten, terwijl chronische, diffuse en systemische schade vaak onderbelicht blijft. Bestaande wetgeving (zoals de EU AI Act) is te beperkt in scope en fragmenteert de data, waardoor er geen robuuste feedbacklussen ontstaan zoals in andere veiligheidskritische sectoren (bijv. luchtvaart). Er ontbreekt een gestructureerde methodologie om ruwe incidenttallen om te zetten in betrouwbare inzichten voor governance.

2. Methodologie: Het SORT-Framework

De auteurs stellen een raamwerk voor dat epidemiologische principes toepast op AI-monitoring. Het doel is om blootstelling en schade-snelheid (hazard rate) te scheiden en ze te classificeren in trajectcategorieën.

A. Gestructureerde Monitoringvragen (SORT)

Om consistentie te garanderen, wordt elke monitoringvraag (Monitoring Question - MQ) opgesplitst in vier componenten, analoog aan het PICO-raamwerk in de geneeskunde:

S (Subject): Wie of wat loopt risico?
O (Opportunity): Wat creëert de blootstelling?
R (Risk event): Wat is het telbare schadegebeurtenis?
T (Timeframe): Wat is de observatieperiode?
Voorbeeld: "Hoeveel [R] per [T] onder [S] die [O]?"

B. Geschatte Procedures (Tiered Estimation)

Omdat perfecte data vaak ontbreekt, wordt een viervoudig niveau (Tier) van schatting gebruikt, gebaseerd op de sterkte van het bewijs:

Tier 1: Directe overname uit autoritaire rapportagesystemen (bijv. NHTSA, farmacovigilantie).
Tier 2: Afgeleid van proxies (bijv. schattingen gebaseerd op bredere categorieën of omgevingsdata).
Tier 3: Geschat door experts (panelen) wanneer kwantitatieve data ontbreekt.
Tier 4: Principieel afzien van een schatting (abstention) als de data te schaars is, zelfs voor een orde-van-grootte schatting.

Voor schade (Harm) wordt vaak een ondergrens bepaald door geregistreerde incidenten en een bovengrens door proxy-maatregelen. Voor blootstelling (Exposure) moeten beide grenzen vaak via proxies worden geconstrueerd, wat Tier 2-resultaten frequenter maakt.

C. Classificatie van Trajecten

Op basis van de geschatte trends voor blootstelling ( $E$ ) en schade per eenheid blootstelling ( $\hat{H}$ ), wordt elke MQ ingedeeld in een van vier categorieën (een 2x2-matrix):

Escalating (Escalerend): $E \uparrow$ en $\hat{H} \uparrow$ . Meer mensen blootgesteld én meer schade per gebruik. Vereist urgente reactie.
Mitigating (Mitigerend): $E \uparrow$ en $\hat{H} \downarrow$ . Meer mensen blootgesteld, maar minder schade per gebruik. Bestaande veiligheidsmaatregelen werken, maar monitoring blijft nodig.
Concentrating (Geconcentreerd): $E \downarrow$ en $\hat{H} \uparrow$ . Minder mensen blootgesteld, maar degenen die het zijn, lopen grotere risico's. Vereist gerichte bescherming.
Receding (Afnemend): $E \downarrow$ en $\hat{H} \downarrow$ . Geen verslechtering in beide dimensies.

3. Resultaten en Case Studies

Het raamwerk werd toegepast op twee casestudies:

Casus 1: Conversational AI en zelfverminking (VS)
- Analyse: Zowel het aantal gebruikers (blootstelling) als het aantal incidenten met zelfverminking (schade) nam toe.
- Classificatie: Escalating.
- Inzicht: Hoewel bedrijven maatregelen nemen, is de toename in blootstelling en de schaal van de schade zo groot dat de risico's per gebruiker stijgen.
Casus 2: Autonome voertuigen en letselschade (VS)
- Analyse: Het aantal gereden kilometers (blootstelling) verdubbelde, terwijl het aantal incidenten met letselschade minder snel toenam (of per miljoen kilometers afnam).
- Classificatie: Mitigating.
- Inzicht: De veiligheidsmaatregelen houden gelijke tred met de groei van de inzet, hoewel het absolute aantal incidenten kan stijgen door de grotere schaal.

4. Belangrijkste Bijdragen

Scheiding van Factoren: Het raamwerk ontkoppelt "meer incidenten" van "meer gevaarlijke systemen" door blootstelling en schade-snelheid apart te analyseren.
Omgaan met Onzekerheid: Door het gebruik van tiers en orde-van-grootte schattingen (in plaats van valse precisie) wordt transparant gemaakt wat er wel en niet uit de data kan worden afgeleid.
Governance-gerichte Classificatie: De vier trajectcategorieën bieden directe handvatten voor beleidsmakers (bijv. wanneer te interveniëren versus wanneer te monitoren).
Epidemiologische Toepassing: Het toont aan dat methoden uit de volksgezondheid (separatie van blootstelling en hazard, tiered estimation) uitstekend toepasbaar zijn op AI-risico's in een omgeving met onvolledige data.

5. Significantie en Implicaties

Beleidsondersteuning: Het raamwerk helpt beleidsmakers onderscheid te maken tussen echte risicoverschuivingen en toegenomen media-aandacht.
Data-ontwikkeling: Het benadrukt dat nieuwsbronnen voorlopig de primaire databron blijven en biedt methoden om hieruit betrouwbare signalen te halen, terwijl het de noodzaak aangeeft voor betere rapportage-infrastructuur.
Voorzichtigheid: Het waarschuwt tegen het gebruik van "afnemende" of "onclassificeerbare" labels als excuus voor inactiviteit; een afnemend trend kan succesvolle interventie zijn, maar een onclassificeerbaar resultaat kan ook wijzen op een gevaarlijke data-gat.
Toekomst: Het stelt een pad voor van reactief governance naar proactief risicomanagement door het identificeren van fase-overgangen in incidenttrajecten.

Kortom, dit artikel biedt een noodzakelijke methodologische basis om de complexiteit van AI-incidenten te navigeren, waarbij het de nadruk legt op transparantie, context en gestructureerde onzekerheid in plaats van naïeve tellingen.