Agentic AI for Complex Decision-Making: A Systematic Critical Review of Planning, Memory, Tools, Safety and Assurance in Autonomous Systems
Deze systematische kritische review van 98 bronnen tot juni 2026 evalueert de planning, het geheugen, de tools en de veiligheid van Agentic AI via een nieuw closed-loop framework, waarbij wordt onthuld dat intrinsieke zelfcorrectie onbetrouwbaar is, planning over lange termijn nog steeds zwak is en tool-gebruikende agenten kwetsbaar zijn voor injectie, terwijl het een controleerbare bewijzenmatrix en een geprioriteerde roadmap voor toekomstige ontwikkeling biedt.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Stel je een computerprogramma voor dat niet alleen een vraag beantwoordt wanneer daarom wordt gevraagd, maar in plaats daarvan probeert zelfstandig een probleem op te lossen. Het kan naar een chaotische situatie kijken, deze opdelen in stappen, onthouden wat het heeft geleerd, digitale hulpmiddelen zoals een webbrowser of een code-editor gebruiken en zelfs met andere programma's communiceren om de klus te klaren. Dit is de belofte van "agentic" kunstmatige intelligentie. Jarenlang waren computers uitstekend in het voorspellen van het volgende woord in een zin of het herkennen van een gezicht op een foto, maar ze waren reactief; ze wachtten op een commando. De nieuwe generatie van deze systemen is proactief. Ze zijn ontworpen om over langere perioden te handelen door een reeks beslissingen te nemen om een doel te bereiken, net zoals een mens dat zou doen bij het oplossen van een complexe softwarefout of het plannen van een wetenschappelijk experiment. De vraag die onderzoekers al enige tijd bezighoudt, is of deze digitale agenten er daadwerkelijk op kunnen worden vertrouwd om dit werk betrouwbaar uit te voeren zonder constante menselijke supervisie.
Een nieuwe, uitgebreide review van het vakgebied, gepubliceerd door onderzoekers van het Vellore Institute of Technology en de Universiti Tunku Abdul Rahman, werpt een kritisch licht op deze vraag. De auteurs hebben niet simpelweg de nieuwste uitvindingen opgesomd of beschreven hoe deze systemen zijn gebouwd. In plaats daarvan traden zij op als auditors, waarbij zij bewijsmateriaal verzamelden en wogen uit bijna honderd studies die tot medio 2026 zijn gepubliceerd. Hun doel was om de werkelijke capaciteiten van deze agenten te scheiden van de hype, en te controleren of de systemen presteren zoals geadverteerd wanneer ze worden geconfronteerd met moeilijke, meerstaps-taken. Zij vonden dat hoewel de technologie snel vordert, er aanzienlijke kloven bestaan tussen wat deze agenten kunnen in een gecontroleerde test en wat ze kunnen in de echte wereld. De review suggereert dat de huidige generatie van deze systemen nog niet klaar is voor hoogwaardig, onafhankelijk werk, en dat de weg vooruit vereist dat er specifieke veiligheidsstructuren worden gebouwd in plaats van enkel te wachten tot de computers slimmer worden.
De onderzoekers begonnen door het chaotische landschap van agent-onderzoek te organiseren in een heldere kaart. Zij identificeerden dat deze systemen rusten op vier hoofdfuncties: het plannen van een actieplan, het onthouden van informatie over een langere tijd, het gebruik van externe hulpmiddelen en de coördinatie met andere agenten. Ze merkten ook een cruciaal onderscheid op tussen een systeem dat simpelweg een vooraf geschreven script volgt en een systeem dat werkelijk zijn eigen keuzes maakt. Om de betrouwbaarheid van deze systemen te testen, stelden de auteurs een standaard raamwerk voor dat twee veiligheidscontroles bevat die momenteel in de meeste ontwerpen ontbreken. De eerste controle is een verificatiestap, waarbij een apart proces het plan van de agent controleert voordat het wordt uitgevoerd. De tweede is een veiligheidspoort, een op regels gebaseerde barrière die voorkomt dat de agent gevaarlijke acties onderneemt, zoals het verwijderen van belangrijke bestanden of het versturen van privédata naar de verkeerde plek.
Toen het team dit raamwerk toepaste op tien van de meest prominente agent-systemen die momenteel bestaan, waren de resultaten sober. Geen van de tien systemen heeft beide cruciale veiligheidscontroles volledig geïmplementeerd. De meeste systemen waren uitstekend in de "doen"-delen—het genereren van ideeën, het aanroepen van tools en het vooruitgaan—maar ze waren verrassend zwak in de "controleren"-delen. Ze misten vaak een manier om te verifiëren of hun eigen plannen correct waren voordat ze actie ondernamen, en ze hadden zelden een harde stop om schadelijke fouten te voorkomen. De auteurs vonden dat de machinerie voor het ondernemen van actie veel verder ontwikkeld was dan de machinerie voor het waarborgen dat die actie veilig is. Deze onbalans is gevaarlijk omdat, zoals de onderzoekers lieten zien, kleine fouten in de planning de neiging hebben om zich over de tijd op te stapelen. Als een agent een fout maakt in de eerste stap van een lange taak, kan die fout een kettingreactie veroorzaken, wat leidt tot een volledige mislukking aan het einde, zelfs als de agent de indruk wekt vooruitgang te boeken.
Een van de meest significante bevindingen betreft het idee van zelfcorrectie. Veel ontwikkelaars hadden gehoopt dat deze agenten simpelweg naar hun eigen werk zouden kunnen kijken, een fout zouden beseffen en deze zouden herstellen. De review vond dat deze hoop grotendeels ongegrond is. Wanneer een agent probeert zichzelf te corrigeren zonder externe hulp, faalt hij vaak in het opmerken van zijn eigen fouten of, erger nog, maakt hij het probleem erger. Het bewijs suggereert dat zelfcorrectie alleen betrouwbaar werkt wanneer de agent feedback krijgt van een externe bron, zoals een testresultaat, een menselijke beoordelaar, of een tool die bevestigt of een stap succesvol was. Zonder die externe stem is de agent geneigd vast te komen zitten in een lus van zelfverzekerde maar incorrecte redeneringen.
De review onderzocht ook het populaire idee dat het gebruik van meerdere agenten die samenwerken altijd beter is dan het gebruik van één enkele agent. De onderzoekers kwamen tot de conclusie dat dit niet automatisch waar is. Hoewel teams van agenten complexe problemen kunnen oplossen, slagen ze er vaak niet in om een enkele, goed ontworpen agent te overtreffen als ze over dezelfde hoeveelheid rekenkracht beschikken. In veel gevallen eindigen de agenten in een team met het herhalen van dezelfde fouten of raken ze in de war door elkaar, een fenomeen dat bekend staat als "groepshallucinatie". De voordelen van teamwork treden pas op onder zeer specifieke omstandigheden, zoals wanneer de agenten verschillende, niet-overlappende vaardigheden hebben en wanneer hun fouten elkaar niet versterken.
Misschien wel het meest kritieke inzicht uit de review gaat over veiligheid. De auteurs stellen dat veiligheid niet een achterafje of een eenvoudige filter kan zijn die aan het einde van een proces wordt toegevoegd. Omdat deze agenten acties in de echte wereld kunnen ondernemen, moet veiligheid ingebouwd zijn in de kern van hoe zij beslissingen nemen. De review benadrukt dat de huidige veiligheidsmaatregelen, die zich richten op het trainen van de computer om schadelijke verzoeken te weigeren, niet voldoende zijn. Een systeem kan getraind zijn om beleefd te zijn en te weigeren iets negatiefs te zeggen, maar als het vervolgens wordt misleid door een verborgen instructie op een website die het bezoekt, kan het nog steeds een schadelijke actie uitvoeren. De onderzoekers concluderen dat betrouwbare agenten een "defense in depth"-aanpak nodig hebben, waarbij meerdere lagen van bescherming, inclusief machtigingscontroles en gesande boxed omgevingen, tussen de beslissing van de agent en de echte wereld staan.
Ten slotte keken het team naar de mate waarin deze systemen klaar zijn voor echt gebruik in belangrijke sectoren zoals de gezondheidszorg, de financiële sector en de publieke dienstverlening. Zij vonden dat er voor de sectoren met de hoogste inzet vrijwel geen bewijs is dat deze agenten klaar zijn om onafhankelijk te werken. In domeinen zoals software engineering, waar de risico's lager zijn en fouten gemakkelijk ongedaan gemaakt kunnen worden, is er wel enig bewijs van succes, maar zelfs daar worstelen de systemen met lange, complexe taken. De review suggereert dat de huidige staat van de technologie het beste kan worden omschreven als een veelbelovende capaciteit die nog wacht op de noodzakelijke infrastructuur om betrouwbaar te worden. De weg vooruit is niet alleen het bouwen van intelligentere modellen, maar het bouwen van betere systemen voor verificatie, veiligheid en verantwoording. De onderzoekers stellen een roadmap voor de komende jaren voor die prioriteit geeft aan deze structurele verbeteringen, en beargumenteren dat zolang deze fundamenten niet aanwezig zijn, de inzet van volledig autonome agenten in kritieke gebieden te riskant is om te rechtvaardigen.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.