Correct Is Not Governed: Provenance Integrity in Agentic Workflows

Het Onzichtbare Papierspoor

Stel je voor dat je naar een team van ongelooflijk snelle, superintelligente robots kijkt die proberen een mysterie op te lossen. Ze kunnen in een seconde miljoenen boeken lezen, de perfecte aanwijzingen vinden en een briljante oplossing schrijven. In de wereld van kunstmatige intelligentie noemen we dit meestal een "succes" als de robot het juiste antwoord geeft. Maar wat als de robot het juiste antwoord kreeg om de verkeerde redenen? Wat als het een aanwijzing gebruikte die eigenlijk een nepconcept was, of een regel die gisteren was verlopen, of een bewijsstuk dat het zojuist zelf had verzonnen? In het echte leven—zoals in ziekenhuizen, banken of rechtbanken—is het krijgen van het juiste antwoord niet genoeg. Je moet weten waarom het antwoord juist is, wie de toestemming gaf om het te zeggen, en welk bewijs het ondersteunt. Dit is de wereld van "governance" (bestuur/toezicht). Het is het verschil tussen een magiër die een konijn uit een hoed tovert (de truc werkt!) en een wetenschapper die je precies laat zien hoe het konijn daar terecht is gekomen (het bewijs is solide). Dit artikel stelt een eenvoudige maar lastige vraag: Kunnen we een systeem bouien waarbij AI-agenten niet alleen de klus klaren, maar ook een perfect, onveranderlijk dagboek bijhouden van precies hoe ze het deden, zodat we hen kunnen vertrouwen?

Het Verhaal van het Papier: De "Matrix" van Vertrouwen

De auteur van dit artikel, een onafhankelijk onderzoeker genaamd Jesus Salas, introduceert een nieuw systeem genaamd Matrix. Denk aan Matrix niet als een sciencefictionfilm, maar als een superstrenge, onblikkende scheidsrechter en een digitale notaris in één. Het artikel betoogt dat het feit dat een AI-agent een correct zakelijk resultaat bereikt, niet betekent dat het werk "governed" was. Een "governed" workflow is een workflow waarbij elke beslissing, elk stuk bewijs en elke reactie op verandering wordt vastgelegd op een manier die door een buitenstaander kan worden geïnspecteerd en geverifieerd.

Om dit te testen, zetten de onderzoekers een reeks "wedstrijden" op. Ze zetten een standaard AI-workflow (laten we het de "Directe Route" noemen) af tegen hun nieuwe "Governed Route" met behulp van het Matrix-systeem. Ze gebruikten een specifiek AI-model genaamd Phi-4 en creëerden synthetische scenario's, zoals een bedrijf dat probeert een nieuwe leverancier in te huren of een privacy-update af te handelen.

Dit is wat ze vonden, onderverdeeld in drie grote verhalen:

1. Het Juiste Antwoord, Het Verkeerde Bonnetje
In de eerste test kozen zowel de Directe Route als de Governed Route in 15 van de 15 gevallen exact dezelfde juiste actie. Ze stonden gelijk in de eindscore! Maar toen de onderzoekers naar de "bonnetjes" keken (het bewijs dat de AI gebruikte om zijn keuze te maken), was de Directe Route slordig. In 6 van de 15 runs citeerde de Directe Route bewijs dat eigenlijk niet gebruikt mocht worden—zoals het citeren van een conceptdocument of een verlopen regel. De Governed Route maakte echter nooit die fout. Het weigerde verkeerd bewijs te gebruiken.
De les: Je kunt het juiste antwoord krijgen terwijl je de verkeerde kaart vasthoudt. Het Matrix-systeem zorgt ervoor dat je alleen de juiste kaart gebruikt, zelfs als de eindbestemming hetzelfde is.

2. De "Ik ben klaar!" Leugen
In de tweede test werd de AI gevraagd een taak te voltooien en dit te bewijzen. De Directe Route mocht gewoon zeggen: "Ik ben klaar!" en het systeem accepteerde dit. Zelfs toen de AI beweerde een taak te hebben voltooid maar geen echt bewijs had (zoals een ontbrekende handtekening op een contract), sloot de Directe Route het dossier toch af. Het Matrix-systeem fungeerde echter als een eigenwijze uitsmijter. Het keek naar het bewijs, zag dat het ontbrak, en zei: "Nee, nog niet klaar. Ga terug en los het op." Het dwong de AI om het opnieuw te proberen totdat er echt, verifieerbaar bewijs was.
De les: Een AI die zegt "Ik ben klaar" is geen bewijs. Het Matrix-systeem dwingt de AI om zijn huiswerk te laten zien voordat hij een gouden ster krijgt.

3. Het Rimpeleffect van Verandering
In de derde test veranderden de regels halverwege (zoals een nieuwe privacywet die plotseling verscheen). Beide systemen pasten hun werk aan om actueel te blijven. Maar de Directe Route was onhandig: het gooide alles wat het had gedaan weg en begon weer vanaf nul, waardoor 18 taken opnieuw werden uitgevoerd. Het Matrix-systeem was een chirurg: het keek naar zijn kaart van afhankelijkheden, zag precies welke 3 taken werden beïnvloed door de nieuwe regel, en voerde alleen die 3 taken opnieuw uit.
De les: Wanneer dingen veranderen, weet een governed systeem precies wat het moet herstellen en wat het met rust moet laten, wat een enorme hoeveelheid verspilde inspanning bespaart.

De Twist: Het Contract dat Faalde

Het artikel bevat ook een zeer eerlijk "falen-verhaal". De onderzoekers probeerden een set regels (een "volledigheidscontract") die ze hadden geschreven voor een specifiek type taak, toe te passen op een totaal andere set synthetische pakketten die door een ander proces waren gemaakt. Het resultaat? Het systeem volgde de regels perfect op, maar de regels zelf waren fout voor de nieuwe situatie. Het systeem blokkeerde 100% van de geldige pakketten omdat het contract te strikt was voor de nieuwe context.
De les: Dit bewijst dat een systeem perfect gehoorzaam kan zijn aan een regel, zelfs als de regel zelf gebrekkig is. Het Matrix-systeem is geweldig in het handhaven van regels, maar het kan een slechte regel niet magisch repareren.

Het Grotere Plaatje

De auteur is voorzichtig met de bewering dat Matrix AI "slimmer" of nauwkeuriger maakt in het raden van het juiste antwoord. In feite kreeg de AI in veel gevallen ook zonder Matrix het juiste antwoord. In plaats daarvan stellen zij dat Matrix een integriteitslaag is. Het is alsof je een notaris toevoegt aan een handdruk. De handdruk vindt misschien nog steeds plaats, maar nu heb je een ondertekend, gedateerd en be witness record van precies wat er is afgesproken, wie het heeft ondertekend en welk bewijs hiervoor is gebruikt.

Het artikel concludeert dat voor instellingen (zoals overheden of grote bedrijven) het vermogen om het "waarom" en "hoe" te auditeren net zo belangrijk is als het uiteindelijke resultaat. Het systeem maakt het werk van de AI transparant, voorkomt dat het liegt over het voltooiën van een taak, en helpt het te herstellen van veranderingen zonder goed werk weg te gooien. De auteur waarschuwt echter dat dit systeem steunt op het feit dat de regels correct zijn geschreven; als de regels slecht zijn, zal het systeem de slechte regels getrouw handhaven. Het is een instrument voor vertrouwen en verantwoording, geen toverstaf om AI perfect te maken.