From Agent Labels to Accountable Deployment: Evidence Maturity and Meaningful Human Oversight for Agentic AI in Higher Education

Het hoger onderwijs staat op een stille maar significante draai van de geschiedenis. Jarenlang heeft kunstmatige intelligentie in klaslokalen gefunctioneerd als een zeer snelle, zeer deskundige bibliothecaris. Een student stelt een vraag, en het systeem geeft een antwoord. Als het antwoord fout is, vraagt de student simpelweg opnieuw of controleert een andere bron. Het risico is beperkt tot een moment van verwarring. Maar een nieuwe generatie software begint op te duiken die meer kan dan alleen praten. Deze systemen, vaak "agentic" (agent-gestuurde) kunstmatige intelligentie genoemd, kunnen dingen doen. Ze kunnen een groot doel opdelen in kleinere stappen, kiezen welke hulpmiddelen ze gebruiken, informatie verzamelen van verschillende plaatsen en vervolgens een plan uitvoeren zonder constante menselijke aansturing. Stel je een systeem voor dat niet alleen een essay schrijft voor een student, maar dat ook een essay kan opstellen, de bronnen kan controleren, het naar een beoordelingsportaal kan indienen en vervolgens een e-mail naar de professor kan sturen met een samenvatting van het uitgevoerde werk. Deze verschuiving van het beantwoorden van vragen naar het ondernemen van acties verandert de aard van het risico. Wanneer een systeem alleen spreekt, is een fout slechts een verkeerde zin. Wanneer een systeem handelt, kan een fout een dossier van een student wijzigen, privégegevens blootleggen of een keten van gebeurtenissen in gang zetten die moeilijk ongedaan te maken is.

De vraag waar universiteiten vandaag de dag voor staan, is niet of deze krachtige instrumenten werken, maar of we genoeg weten om ze op hun eigen gang te laten gaan. Een nieuwe kritische review door onderzoeker Abhishek Dey van de South Ural State University onderzoekt de huidige staat van deze technologie in het hoger onderwijs. De studie kijkt niet naar de technologie in isolatie; in plaats daarvan stelt zij een moeilijke ethische vraag: hebben we genoeg bewijs dat deze systemen veilig, eerlijk en nuttig zijn voordat we hen de sleutels overhandigen van belangrijke beslissingen? De review analyseert tientallen bestaande studies en rapporten om te ontdekken wat de bewijslast daadwerkelijk ondersteunt en waar de hiaten blijven bestaan. De bevindingen suggereren dat, hoewel deze systemen specifieke, kleine taken kunnen verbeteren, het bewijs nog niet sterk genoeg is om te rechtvaardigen dat zij grote beslissingen nemen over de toekomst van studenten.

De review begint met het verhelderen van wat een "agent" precies is. Niet elke chatbot of geautomatiseerd hulpmiddel voldoet aan deze beschrijving. Om als een echte agent te worden beschouwd, moet een systeem in staat zijn om een reeks acties te plannen, context uit een eerder gesprek te onthouden, externe hulpmiddelen te gebruiken en het eigen werk te controleren. Veel studies in dit veld halen deze geavanceerde systemen door elkaar met eenvoudigere systemen die alleen tekst genereren. Deze verwarring heeft geleid tot wat de auteur "labelinflatie" noemt, waarbij elk geautomatiseerd hulpmiddel als een agent wordt omschreven, en "uitkomstinflatie", waarbij kleine verbeteringen in hoe een systeem eruitziet of klinkt, worden verward met echte verbeteringen in hoeveel studenten daadwerkelijk leren. De review stelt vast dat de literatuur vol staat met deze brede claims, maar dat het bewijs vaak wankel is. Het sterkste bewijs bestaat voor de mate waarin deze systemen specifieke artefacten produceren, zoals een stuk feedback op het schrijven van een student. Echter, het bewijs wordt veel zwakker wanneer er gekeken wordt naar de vraag of studenten daadwerkelijk meer leren, of het systeem iedereen eerlijk behandelt, of of het de werklast voor docenten op de lange termijn vermindert.

Een van de meest opvallende bevindingen is dat de meest veelbelovende studies vaak korte, experimenten op één locatie zijn die niet het hele verhaal vertellen. Zo testte één studie een systeem dat feedback gaf aan middelbare scholieren bij het vak wetenschap. Het systeem, dat twee verschillende agenten gebruikte om elkaars werk te controleren, verminderde het aantal keren dat het overdreven complimenteus was of feiten verzon even aanzienlijk. Dit is een duidelijk technisch succes. Toch toonde de studie niet aan of de leerlingen daadwerkelijk meer wetenschap leerden door deze feedback, of dat docenten tijd bespaarden nadat zij het werk van de agent moesten verifiëren. Een andere studie keek naar een systeem dat werd gebruikt bij een universitaire toelatingscommissie om vragen van aanvragers te beantwoorden. Het systeem beantwoordde duizenden vragen snel en accuraat, met zeer weinig fouten. Maar dit was een proefperiode van twee weken. Het toonde niet aan hoe het systeem een volledig semester aan toelatingen zou afhanden, hoe het de eerlijkheid van wie wordt toegelaten zou beïnvloeden, of hoe het de werklast zou veranderen voor de medewerkers die het proces moeten beheren. De review concludeert dat, hoewel deze systemen technisch indrukwekkend zijn, we ons nog in de beginfase bevinden van het begrijpen van hun impact in de echte wereld.

De review benadrukt ook een kritieke tekortkoming in hoe wij deze systemen beheren. Veel rapporten spreken over "menselijk toezicht", wat suggereert dat een docent of bestuurder het systeem in de gaten houdt. Maar de review betoogt dat de aanwezigheid van een mens niet hetzelfde is als effectieve controle. Echt toezicht betekent dat de mens kan zien wat het systeem doet, het kan stoppen als het misgaat, en de acties kan terugdraaien als er een fout wordt gemaakt. In veel huidige opstellingen is de mens slechts een stempelzetter, die outputs goedkeurt zonder het vermogen om de complexe stappen te begrijpen die het systeem heeft genomen om daar te komen. Dit is gevaarlijk omdat, als een systeem een slechte beslissing neemt, de persoon in charge mogelijk niet de middelen heeft om het te herstellen. De review wijst erop dat zonder sterk, getest toezicht, we deze systemen niet ethisch gezien beslissingen kunnen laten nemen die mensenlevens beïnvloeden, zoals het nakijken van examens of het beslissen wie wordt toegelaten tot een programma.

Om dit mismatch tussen wat de systemen kunnen en wat we over hen weten op te lossen, stelt de auteur een nieuw kader voor genaamd Autonomie-Toezicht-Bewijs (Autonomy-Oversight-Evidence). Dit kader suggereert dat de mate van vrijheid die we een kunstmatige intelligentie geven, nooit groter mag zijn dan de kracht van het bewijs dat het veilig is, noch de kracht van de menselijke controle die we hebben. Het kader verdeelt autonomie in niveaus, van een systeem dat simpelweg een zin schrijft als reactie op een prompt, tot een systeem dat beslissende beslissingen kan nemen over de toekomst van een student. Het verdeelt ook bewijs in niveaus, van een eenvoudige computertest tot een langdurige, praktijktest over vele scholen verspreid. De regel is simpel: je kunt een systeem geen hoge mate van vrijheid geven tenzij je over hoogwaardig bewijs en hoogwaardig menselijk toezicht beschikt. Als het bewijs zwak is, of als het menselijk toezicht slechts een formaliteit is, moeten de permissies van het systeem nauw en omkeerbaar blijven.

De implicaties van deze bevinding zijn aanzienlijk voor de manier waarop universiteiten vooruitgaan. De review pleit er niet voor om deze systemen te verbieden. In plaats daarvan pleit zij voor een voorzichtige, gemeten aanpak. Universiteiten moeten er niet vanuit gaan dat een systeem dat goed werkt in een laboratorium, ook goed zal werken in een echte klasomgeving. Ze moeten deze tools testen in hun eigen specifieke contexten, waarbij ze zorgvuldig kijken naar wie er baat bij heeft en wie er schade kan ondervinden. Ze moeten ervoor zorgen dat docenten en medewerkers de macht hebben om het systeem te stoppen en dat studenten een manier hebben om beslissingen gemaakt door de machine aan te vechten. De review benadrukt dat de bewijslast bij de instelling ligt. Voordat er enige echte autoriteit aan een kunstmatige agent wordt overgedragen, moet de school aantonen dat zij het bewijs heeft om dit te ondersteunen en de mensen heeft om het te beheren.

Uiteindelijk is het artikel een oproep tot helderheid en verantwoordelijkheid. De technologie beweegt snel en evolueert van instrumenten die vragen beantwoorden naar systemen die actie ondernemen. Maar het bewijs van hun veiligheid en eerlijkheid is niet mee gegroeid. De review stelt vast dat hoewel deze agenten bepaalde taken kunnen verbeteren, we nog niet klaar zijn om hen te vertrouwen met de grote beslissingen die de opleiding van een student vormgeven. De weg vooruit is niet het stoppen van innovatie, maar het vertragen en het bouwen van de noodzakelijke waarborgen. Door de kracht van het systeem af te stemmen op de kracht van het bewijs en de kwaliteit van het menselijk toezicht, kunnen universiteiten ervoor zorgen dat deze krachtige instrumenten studenten dienen zonder de waarden van eerlijkheid, verantwoording en leren in gevaar te brengen. Het doel is niet om de toekomst te voorkomen, maar om ervoor te zorgen dat wanneer deze arriveert, deze gebouwd is op een fundament van waarheid en vertrouwen.