🤖 AI

Unpredictability dissociates from structured control in language agents

Dit artikel toont aan dat bij taalagenten stochastische onvoorspelbaarheid geen vervanging kan zijn voor gestructureerde controlemechanismen die redenen, geheugen en zelftoestand koppelen aan actiekeuze, omdat gerichte laesies aan deze gestructureerde componenten de prestaties consistent verslechteren terwijl varianten met hoge stochastische variabiliteit falen in het repliceren van gestructureerde koppeling tussen actie en veld over uitgebreide benchmarks.

Oorspronkelijke auteurs: Jia Xiao

Gepubliceerd 2026-05-12

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Jia Xiao

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

De Grote Vraag: Is "Chaos" hetzelfde als "Controle"?

Stel je voor dat je een poppenspel bekijkt.

Scenario A: De poppenspeler trekt aan de draden met een duidelijk plan. De pop beweegt om specifieke redenen (herinnering aan het verhaal, een beslissing om te stoppen, of een regel om te volgen).
Scenario B: De pop wordt gewoon door een windvlaag heen en weer geslingerd. Het beweegt wild en onvoorspelbaar, maar het heeft geen plan, geen herinnering en geen reden voor waar het als volgende naartoe gaat.

Lange tijd gingen mensen ervan uit dat als een computerprogramma (een "AI-agent") op een wilde, onvoorspelbare manier handelde, het moest "denken" of zichzelf moest "controleren". Dit artikel vraagt zich af: Is dat waar?

De onderzoekers zeggen nee. Ze ontdekten dat het feit dat een AI onvoorspelbaar is (zoals de door de wind geslingerde pop), niet betekent dat het gestructureerde controle heeft (zoals de poppenspeler). Sterker nog, echte controle vereist specifieke interne "organen" zoals geheugen, redenering en het vermogen om "nee" te zeggen (remming).

Het Experiment: Het "Laesie"-Lab

Om dit te bewijzen, bouwden de onderzoekers een speciale AI-agent die werkt als een mens met een "controlepaneel". Ze konden specifieke delen van het brein van de agent aan- of uitzetten, net als een chirurg die een "laesiestudie" uitvoert (delen van het brein verwijderen om te zien wat er gebeurt).

Ze hadden twee hoofdversies van de agent:

De "Gestructureerde" Agent: Deze had al zijn tools aan. Het had een Redenering-module (om uit te leggen waarom het iets koos), een Geheugen-module (om gebeurtenissen uit het verleden te onthouden), een Zelfstatus-module (om zijn doelen bij te houden) en een Veto-module (om zichzelf te stoppen van het maken van een slechte keuze).
De "Chaos"-Agent: Deze had de modules voor Redenering, Geheugen, Zelf en Veto uitgeschakeld. In plaats daarvan verhoogden ze de "temperatuur" (willekeur) om het wild en onvoorspelbaar te laten gokken.

De Analogie:
Denk aan de Gestructureerde Agent als een chef die een recept volgt, het eten proeft en beslist om zout toe te voegen of te stoppen met koken.
Denk aan de Chaos-agent als een blender die op maximale snelheid draait. Hij gooit ingrediënten overal vandaan (onvoorspelbaar), maar hij "kookt" niets; hij maakt alleen maar een puinhoop.

Wat Ze Vonden

De onderzoekers lieten deze agenten 7 verschillende soorten taken uitvoeren (zoals een verhaal vertellen, een keuze maken of een feit onthouden) en controleerden meer dan 74.000 interacties. Dit is wat er gebeurde:

1. Chaos is geen Controle
De "Chaos"-agent was inderdaad veel moeilijker te voorspellen. Het sprong meer rond. Echter, het slaagde er niet in om te handelen als een gecontroleerde agent. Het onthield zijn doelen niet, veranderde zijn mening niet op basis van nieuwe redenen en kon zichzelf niet stoppen van het maken van fouten.

Het Resultaat: Onvoorspelbaar zijn maakte de agent niet slimmer of meer onder controle. Het maakte het gewoon willekeurig.

2. De "Post-Hoc"-Truc
Sommige mensen zouden kunnen zeggen: "Misschien controleert de Chaos-agent zichzelf wel, het schrijft zijn redenen gewoon na het maken van een keuze."
Om dit te testen, dwongen de onderzoekers de Chaos-agent om redenen, herinneringen en veto-beslissingen op te schrijven na dat het had gehandeld, alleen maar om te zien of het leek alsof het onder controle was.

Het Resultaat: Zelfs wanneer het gedwongen werd om een verhaal te schrijven over waarom het iets deed, kwamen de acties van de Chaos-agent niet overeen met het verhaal. De "redenen" waren slechts decoratie, niet de echte oorzaak van de actie.

3. De "Beperkte Actie"-Test
Om helemaal zeker te zijn, haalden ze alle mooie tekst weg en keken ze alleen naar de uiteindelijke beslissing (bijvoorbeeld "Kies Optie A" of "Stop"). Ze gaven de agenten een geheime test: "Als ik de reden verander, moet jij je keuze veranderen. Als ik je een nep-reden geef, moet je het negeren."

Het Resultaat: De Gestructureerde Agent slaagde. Het veranderde zijn keuze wanneer de reden veranderde en negeerde nep-redenen. De Chaos-agent faalde jammerlijk; het kon de regels van logica of geheugen niet volgen.

De "Blinddoek"-Controle**

Om zeker te zijn dat ze niet bevooroordeeld waren, keken drie menselijke experts naar 1.200 voorbeelden zonder te weten welke agent welke was. Ze waren bijna perfect het eens (96% overeenstemming) dat de Gestructureerde Agent de enige was die daadwerkelijk "onder controle" was.

De Grenzen (Wat het Artikel Niet Zei)

Het artikel is zeer voorzichtig met wat het beweert. Het zegt niet:

Dat AI nooit onder controle kan zijn.
Dat willekeur nutteloos is.
Dat dit van toepassing is op elke AI ter wereld.

In plaats daarvan zegt het: In het specifieke type AI-agent dat ze bouwden, creëerde het simpelweg willekeuriger (stochastischer) maken van de AI geen echte, gestructureerde controle. Je kunt een "wilde gok" niet vervangen door een "overwogen beslissing".

De Conclusie

Als je wilt dat een AI echt onder controle is – in staat om te onthouden, te redeneren en zichzelf te stoppen – moet je die specifieke onderdelen erin bouwen. Je kunt niet zomaar de "willekeurigheidsknop" omdraaien en hopen dat het uitvindt hoe het slim moet zijn. Onvoorspelbaarheid is niet hetzelfde als intelligentie.

Technische Samenvatting: Onvoorspelbaarheid Dissocieert van Gestructureerde Controle in Taalagenten

Probleemstelling
Het artikel adresseert een fundamentele vermenging in de evaluatie van taalagenten: de aanname dat gedragsonvoorspelbaarheid (stochastische dispersie) synoniem is met gestructureerde controle. Hoewel een systeem moeilijk te voorspellen kan zijn door brede bemonstering, ruis of een grote outputruimte, impliceert dit niet noodzakelijkerwijs dat het beschikt over doelrelevante representaties, remmende mechanismen of contextgevoelige actiekeuze. De studie onderzoekt of stochastische bemonstering expliciete, gestructureerde mechanismen kan vervangen – specifiek die welke redenen, geheugen, zelftoestand en inhibitie (vetorecht) koppelen aan actiekeuze – in een implementatie van taalagenten waarbij deze componenten selectief kunnen worden gedeactiveerd (gelesioneerd).

Methodologie
Het onderzoek maakt gebruik van een "lesionable" familie van taalagenten die is ontworpen om specifieke controlecomponenten te isoleren. Het experimentele ontwerp is gestructureerd rond drie bewijslijnen:

Stochastische Dispersie: Meten of het verhogen van stochastiek (via bemonstering bij hoge temperatuur en uitschakelen van controlemodules) de onvoorspelbaarheid van acties verhoogt.
Koppeling Trace–Actie: Beoordelen of gerapporteerde redenen, geheugen, zelftoestand en veto-informatie gekoppeld blijven aan de uiteindelijke actie, onderscheiden van louter aanwezig zijn in het outputformaat.
Gedragsmatige Actieresponsiviteit: Testen of eindige actiecodes in verwachte richtingen veranderen onder contrafactuele probes en gerichte lesies, onafhankelijk van de formulering van vrije teksttraces.

Experimentele Opstelling:

Varianten: De studie vergelijkt een Variant met Gestructureerde Controle (A4), die vertakking, zelftoestand, geheugen, redenen-grafiek en veto mogelijk maakt, met een Vergelijker met Hoge Stochastiek (A5), die de controlemodules uitschakelt en de bemonsteringstemperatuur verhoogt. Gerichte lesies (A4_no_reason, A4_no_veto) verwijderen selectief specifieke componenten.
Controles: De studie omvat controles met een overeenkomstige interface (post-hoc, gescrambeld, willekeurig en controles voor woordrijkdom) die hetzelfde rapportageschema gebruiken om formatbeschikbaarheid uit te sluiten als een verstorende factor. Het test ook sterke stochastische alternatieven (kalibratie bij lagere temperatuur, rekenkracht-overeenkomende bemonsteraars, zelfconsistentie) en breidt uit naar open-weight modellen (Qwen2.5 7B/14B/32B, Mistral-7B) en externe API's.
Metrieken:
- Actie-entropie: Shannon-entropie over uiteindelijke actiestrings om onvoorspelbaarheid te meten.
- Actieveld-Koppelingsindex (AFCI): Een samengestelde score die de uitlijning van redenen, geheugen, veto en zelftoestand met de uiteindelijke actie meet.
- Benchmarks met Eindige Actiecodes: Een formatonafhankelijke test waarbij uiteindelijke acties worden gemapt naar een ontologie van zes codes (bijv. ACTION_A, VETO, DEFER). Scores (BRSI, BMCI, BVEI, BSCI) meten responsiviteit op specifieke probes terwijl de formulering van vrije teksttraces wordt genegeerd.
Schaal: De basislijn-lesiematrix omvat 74.352 oproepen over zeven datasets. Controles met overeenkomstige interface omvatten 26.946 generaties. De benchmark met eindige actiecodes bevat 57.816 gescoorde records. Runs met open-weight modellen dekken 126.000 generaties per model over 20 taalfamilies.

Belangrijkste Resultaten

Dissociatie van Onvoorspelbaarheid en Controle: In de basislijn-lesiematrix (7/7 datasets) was de vergelijker met hoge stochastiek significant onvoorspelbaarder dan de variant met gestructureerde controle. Deze verhoogde dispersie reproduceerde echter niet het profiel van gestructureerde controle. Het verwijderen van redenen- of veto-componenten (lesies) verlaagde specifiek de verwachte metrieken voor gestructureerde controle in alle 7 datasets, wat bevestigt dat het gestructureerde profiel afhankelijk is van deze specifieke mechanismen.
Koppeling versus Formaat: De gestructureerde agent behield een significant hogere Actieveld-Koppelingsindex (AFCI) dan alle stochastische, post-hoc, gescrambelde en woordrijkdom-controles over alle datasets. De onderste 95% bootstrap-grens voor het AFCI-verschil was 0,4519, wat aangeeft dat de koppeling niet louter een artefact van het rapportageformaat is.
Gedragsmatige Responsiviteit: In de benchmark met eindige actiecodes overtrof de variant met gestructureerde controle de vergelijker met hoge stochastiek en de gerichte lesies in 7/7 datasets voor alle vooraf gedefinieerde gedragscomponenten (redenen, geheugen, veto, zelfcontinuïteit). De onderste 95% bootstrap-grens voor het dataset-cluster was 0,8557.
Robuustheid en Generalisatie:
- Stochastische Vervanging: Sterkere stochastische controles (inclusief entropie-overeenkomende pogingen) slaagden er niet in het profiel van gestructureerde controle te herstellen. Geen enkel kalibratiekandidaat voldeed aan het vooraf gedefinieerde criterium voor entropie-nabijheid op vier niveaus (drempel 0,15).
- Modelgeneralisatie: De dissociatie gold voor de families Qwen2.5 (7B, 14B, 32B) en Mistral-7B. Gestructureerde nauwkeurigheid overtrof controles met overeenkomende verdeling en gescrambelde context respectievelijk in 236/240, 240/240 en 238/240 cellen.
- Geanonimiseerde Audit: Een anonieme audit door drie annotatoren over 1.200 items toonde hoge overeenstemming (mean pairwise Cohen's $\kappa$ = 0,961), wat de scoring van controle-dimensies valideert.
Beperkingen: De studie merkt expliciet op dat strikte entropie-overeenkomst en strikte token/rekenkracht-overeenkomst niet voldeden aan hun vooraf gedefinieerde poorten. Bijgevolg is de conclusie beperkt tot de geteste overeenkomende controles en wordt niet beweerd dat geen perfect entropie-gekalibreerde stochastische vergelijker ooit zou kunnen slagen. Evenmin voldeed de formele contrafactuele-flip-stress-test aan zijn poort van 90% flip-volging.

Betekenis en Claims
Het artikel claimt een gecontroleerde dissociatie te bieden tussen onvoorspelbaarheid en gestructureerde controle binnen een specifieke familie van taalagenten. De primaire bijdrage is het aantonen dat stochastische onvoorspelbaarheid geen gestructureerde, actiegekoppelde controle reproduceert wanneer laatstgenoemde wordt gedefinieerd door de koppeling van redenen, geheugen, zelftoestand en veto aan actiekeuze.

De studie betoogt dat variabiliteit, reflectieve tekst en actieregeling in agent-evaluatie gemakkelijk worden verward. Een model kan diverse antwoorden of plausibele post-hoc redeneringen produceren zonder ze daadwerkelijk te koppelen aan actiekeuze of remming te respecteren. Door gebruik te maken van een lesionable architectuur en formatonafhankelijke gedragsbenchmarks, stelt het artikel vast dat het "profiel van gestructureerde controle" een distinct operationeel kenmerk is dat door stochastische bemonstering alleen niet kan worden vervangen.

De bevindingen zijn bescheiden beperkt tot de geteste agentenfamilie, prompts en gemeten trace/actie-protocollen. De auteurs claimen geen universele wet van agentuur te hebben bewezen, maar eerder experimenteel twee distincte operationele modi in de geëvalueerde systemen te hebben gescheiden. Het werk dient als waarschuwing tegen het gelijkstellen van spontaniteit of hoge entropie aan instrumentele controle of doelgerichte agentuur in taalagenten.