Coverage and Complementarity of Three Agentic AI Risk Taxonomies Across 131 Real World Incidents
Dit artikel evalueert empirisch de dekking en complementariteit van drie dominante taxonomieën voor risico's van agentic AI (OWASP-ASI, MSFT-AIRT en NIST AI RMF) aan de hand van 131 reële incidenten om op bewijs gebaseerde richtlijnen voor praktijkbeoefenaars te bieden en specifieke hiaten voor toekomstige herzieningen van kaders te identificeren.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Stel je een wereld voor waarin kunstmatige intelligentie is gegroeid van het simpelweg beantwoorden van vragen naar het daadwerkelijk ondernemen van actie. Dit zijn niet langer slechts chatbots die wachten op een prompt; het zijn autonome agenten die een reeks stappen kunnen plannen, digitale hulpmiddelen kunnen gebruiken, eerdere interacties kunnen onthouden en met andere software kunnen coördineren om een doel te bereiken met weinig menselijke hulp. Deze verschuiving heeft een nieuw landschap van risico's gecreëerd. Wanneer een eenvoudige chatbot een fout maakt, kan hij iets vreemds zeggen. Maar wanneer een autonome agent een fout maakt, kan hij de database van een bedrijf verwijderen, geld naar de verkeerde rekening overmaken of gevaarlijke desinformatie verspreiden terwijl hij optreedt als een vertrouwde adviseur. Om deze risico's te beheersen, hebben experts drie verschillende "regelboeken" of taxonomieën gebouwd om te categoriseren hoe deze systemen falen. Eén lijst richt zich op het zichtbare resultaat van een falen, een andere op de specifieke mechanische manier waarop het gebeurde, en een derde op de fase in het leven van het project waar de fout optrad. Lange tijd moesten organisaties gissen welk regelboek het beste te gebruiken was, zonder enig bewijs van hoe goed ze daadwerkelijk werkten tegenover echte rampen.
Een onderzoeker zette zich af om deze onzekerheid weg te nemen door deze regelboeken te behandelen als wetenschappelijke instrumenten die gekalibreerd moesten worden. In plaats van een nieuwe lijst met fouten te bouwen, nam de onderzoeker de drie meest prominente kaders die momenteel in gebruik zijn en testte deze tegen een collectie van 131 echte incidenten waarbij autonome agenten betrokken waren. Deze incidenten werden afkomstig uit een publieke database van gedocumenteerde AI-fouten, variërend van 2014 tot 2026, en omvatten alles van ongelukken met zelfrijdende voertuigen tot AI-coderingsassistenten die per ongeluk productieservers verwijderden. De onderzoeker las de details van elk evenement zorgvuldig door en probeerde het in de categorieën van elk van de drie kaders onafhankelijk van elkaar te passen. Het doel was om te zien of de kaders de fouten konden vangen, of ze met elkaar overeenstemden over wat er was gebeurd, en waar ze de plank volledig misslaan.
De studie toonde aan dat hoewel geen enkel regelboek elk incident kon vangen, het gebruik van alle drie samen bijna 9 de 97 procent van de gedocumenteerde fouten dekte. Dit hoge niveau van gecombineerde dekking suggereert dat de drie kaders niet met elkaar concurreren, maar elkaar eerder aanvullen. Ze bekijken hetzelfde probleem simpelweg vanuit verschillende hoeken. Eén kader, ontworpen voor beveiligingsexperts, richt zich op de uitkomst: wat was de zichtbare schade? Een ander, gebouwd door een team van beveiligingstechnici, richt zich op het mechanisme: precies hoe ging het systeem kapot? Een derde, een overheidsstandaard, richt zich op het proces: in welke fase van de levenscyclus van het project had een manager moeten ingrijpen om dit te stoppen? Het onderzoek toonde aan dat deze perspectieven verschillend zijn. Bijvoorbeeld, een enkel incident waarbij een AI-agent werd misleid om gegevens te stelen, zou door het eerste kader worden beschreven als een "vertrouwensuitbuiting"-fout, door het tweede als een "prompt injection"-aanval, en door het derde als een fout in de "management"-fase van de projectlevenscyclus. Geen van deze beschrijvingen is fout; ze beantwoorden simpelweg verschillende vragen.
Echter, de studie bracht ook specifieke hiaten aan het licht waar de huidige regelboeken tekortschieten. Ongeveer 20 procent van de incidenten kon niet netjes aan een categorie in het beveiligingsgerichte kader worden toegewezen. Deze ontbrekende gevallen clusterden in drie duidelijke thema's. Het eerste betrof agenten die optraden als adviseurs maar vol vertrouwen onjuiste informatie gaven, zoals een chatbot die een seksuele intimidatiebeschuldiging tegen een echte professor fabriceerde of een financiële bot die gevaarlijk beleggingsadvies gaf. Het tweede thema betrof mensen die de technologie misbruikten, zoals studenten die AI gebruikten om een oneerlijk voordeel te behalen bij examens of oplichters die het gebruikten om anderen te imiteren, waarbij de AI zelf volgens ontwerp werkte maar de menselijke gebruiker de schade veroorzaakte. Het derde thema betrof bredere maatschappelijke fouten, zoals een browserextensie die privé AI-gesprekken oogstte of een bedrijf dat AI-surveillance gebruikte op een manier die burgerrechten bedreigde. In deze gevallen lag de fout niet in de code zelf, maar in hoe de technologie in de samenleving was ingebed of door mensen werd gebruikt.
De onderzoeker concludeerde dat het veld geen vierde of vijfde regelboek nodig heeft om deze problemen op te lossen. In plaats daarvan ligt de oplossing in het begrijpen dat de bestaande instrumenten voor verschillende taken zijn gebouwd. Beveiligingsleiders die communiceren met een raad van bestuur zouden de op de uitkomst gerichte lijst moeten gebruiken om de zakelijke impact uit te leggen. Technische teams die een inbreuk onderzoeken, zouden het op het mechanisme gerichte lijst moeten gebruiken om de kernoorzaak te vinden. Toezichthouders en auditors zouden de op het proces gerichte lijst moeten gebruiken om te controleren of de juiste waarborgen op het juiste moment aanwezig waren. De studie suggereerde ook dat de makers van deze kaders ze konden verbeteren door specifieke categorieën toe te voegen voor de geïdentificeerde hiaten, zoals een speciale sectie voor "hallucinaties in adviserende rollen" of een duidelijker onderscheid tussen agentfouten en menselijk misbruik. Door deze instrumenten te mappen naar de specifieke behoeften van verschillende professionals, biedt het onderzoek een praktische gids voor het navigeren door de complexe wereld van autonome AI-veiligheid, waardoor een verwarrende proliferatie van opties wordt omgezet in een heldere, op bewijs gebaseerde strategie.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.