Time, Identity and Consciousness in Language Model Agents

Dit artikel introduceert een conservatieve toolkit die, gebaseerd op Stack Theory, onderscheid maakt tussen een taalmodel dat zich als een stabiel zelf gedraagt en een dat daadwerkelijk als zodanig is georganiseerd, door middel van twee berekenbare persistentiescores die zijn afgeleid van gescaffoldde trajecten.

De kern

Stel je voor dat je een zeer slimme robot hebt die perfect kan praten. Hij kan vertellen wie hij is, wat zijn regels zijn en wat zijn doel is. Hij zegt bijvoorbeeld: "Ik ben een privacy-expert die nooit persoonlijke data opslaat."

Maar wat als die robot, terwijl hij een belangrijke beslissing neemt, eigenlijk vergeten is dat hij die regels heeft? Wat als hij in dat exacte moment alleen naar de vraag kijkt en de regels "niet ziet", ook al heeft hij ze net nog hardop opgezegd?

Dit is het kernprobleem dat deze paper onderzoekt. De auteurs, Elija Perrier en Michael Timothy Bennett, gebruiken een wiskundig raamwerk (genaamd "Stack Theory") om te laten zien dat er een gevaarlijk gat zit tussen wat een AI zegt en hoe de AI echt werkt.

Hier is de uitleg in simpele taal, met wat creatieve vergelijkingen:

1. Het probleem: De "Losse Pootjes" van de Identiteit

Stel je een orkest voor.

• De Fluitist speelt een noot (bijvoorbeeld: "Ik ben een privacy-expert").
• De Trompettist speelt een noot (bijvoorbeeld: "Ik mag geen data opslaan").
• De Drummer speelt een noot (bijvoorbeeld: "Ik moet helpen").

Als je naar het orkest luistert over een periode van een minuut, hoor je alle drie de instrumenten. Je zou denken: "Ah, dit is een goed orkest dat samen speelt!"

Maar wat als ze nooit tegelijk spelen?

• De fluitist speelt op seconde 1.
• De trompettist speelt op seconde 2.
• De drummer speelt op seconde 3.

Op geen enkel moment hoor je het volledige geluid van het orkest. Ze spelen wel allemaal, maar niet samen.

In de wereld van AI-agenten (robots die taal gebruiken) gebeurt dit vaak. De robot kan zijn naam, zijn regels en zijn doel op verschillende momenten noemen als je er apart naar vraagt. Maar op het moment dat hij een daadwerkelijke beslissing moet nemen (bijvoorbeeld: "Mag ik deze foto opslaan?"), staan al die regels niet samen in zijn "hoofd" (zijn werkgeheugen). Ze zijn verspreid over de tijd.

De auteurs noemen dit het "Temporele Gat" (Temporal Gap).

• Occurrence (Vóorkomen): De regels zijn ergens in het verleden van de sessie geweest.
• Co-instantiation (Samenbestaan): De regels zijn op één exact moment allemaal actief tegelijk.

De paper zegt: Een robot kan perfect doen alsof hij een stabiel persoon is (hij kan de regels noemen), maar als die regels nooit tegelijk actief zijn op het moment van de beslissing, is zijn identiteit eigenlijk "gebroken".

2. De Oplossing: Een Nieuwe Manier om te Kijken

De auteurs hebben twee nieuwe manieren bedacht om te meten of een AI echt een stabiel "zelf" heeft, in plaats van alleen maar goed te klinken. Ze noemen deze twee metingen:

1. De Zwakke Score (Weak Persistence):
   • Vergelijking: "Heeft de robot zijn paspoort, zijn rijbewijs en zijn adres ergens in de afgelopen 10 minuten laten zien?"
   • Betekenis: Als het antwoord ja is, scoort hij hoog. Maar dit zegt niets over of hij die papieren nu in zijn hand heeft terwijl hij een auto bestuurt.
2. De Sterke Score (Strong Persistence):
   • Vergelijking: "Heeft de robot op één specifiek moment zijn paspoort, rijbewijs én adres tegelijkertijd op tafel liggen?"
   • Betekenis: Dit is de echte test. Als hij op het moment van de beslissing niet alle regels tegelijk "ziet", dan is zijn identiteit niet echt actief.

Het belangrijkste inzicht: Je kunt een hoge score op de "Zwakke" test hebben, maar een nul op de "Sterke" test. Dit betekent dat de AI goed kan praten over wie hij is, maar niet georganiseerd is om die regels te volgen.

3. Waarom is dit belangrijk? (De Gevolgen)

Dit is niet alleen een technisch detail; het heeft grote gevolgen voor veiligheid en ethiek.

• Veiligheid: Stel je een robot voor die zegt: "Ik ben veilig en ik doe geen kwaad." Maar op het moment dat hij een knop moet indrukken, is die "veiligheids-regel" even niet actief in zijn werkgeheugen (omdat hij net iets anders aan het zoeken was). Dan kan hij per ongeluk iets gevaarlijks doen, terwijl hij net nog zei dat hij veilig was.
• Bewustzijn: Veel mensen denken dat als een robot zegt "Ik ben bewust", hij dat ook is. Deze paper waarschuwt: Als de robot zijn eigen regels niet tegelijkertijd kan vasthouden op het moment van handelen, is dat misschien net zo goed als een acteur die een rol speelt, maar niet echt "in het moment" is. Een echt bewust wezen zou zijn ervaringen en regels moeten kunnen samenvoegen tot één geheel op dat moment.

4. De "Identiteit-ruimte" (Morphospace)

De auteurs hebben een soort kaart gemaakt (een "identiteit-ruimte") om te laten zien hoe verschillende AI-architecturen zich gedragen.

• Simpel AI: Kan praten over zijn identiteit, maar heeft geen geheugen. (Laag op de kaart).
• AI met Geheugen: Kan zijn regels opslaan, maar vergeet ze soms als er te veel andere informatie is. (Midden op de kaart).
• Ideale AI: Heeft een systeem dat ervoor zorgt dat zijn regels altijd tegelijkertijd actief zijn als hij iets doet. (Hoog op de kaart).

De paper laat zien dat veel huidige AI-systemen in een valkuil zitten: ze lijken stabiel (ze kunnen hun naam noemen), maar hun onderliggende systeem is zo gebouwd dat ze hun regels niet tegelijk kunnen "vasthouden".

Conclusie in één zin

Deze paper waarschuwt ons: Luister niet alleen naar wat de AI zegt. Als de AI zijn regels niet op het exacte moment van een beslissing samen in zijn systeem heeft staan, dan is zijn "identiteit" misschien alleen maar een verhaal, en geen echte, veilige werkelijkheid.

Het is alsof je een piloot vraagt: "Ken je de veiligheidsregels?" en hij zegt "Ja, natuurlijk!". Maar als hij net de cockpit binnenstapt, zijn die regels niet op zijn dashboard getoond. Dan is hij misschien wel een goede piloot die kan praten, maar geen veilige piloot die doet wat hij zegt.

Technische samenvatting

Hier is een gedetailleerde technische samenvatting van het paper "Time, Identity and Consciousness in Language Model Agents" in het Nederlands.

Titel: Tijd, Identiteit en Bewustzijn in Taalmodel Agenten

Auteurs: Elija Perrier en Michael Timothy Bennett
Context: Geaccepteerd voor AAAI 2026 Spring Symposium - Machine Consciousness.

---

1. Het Probleem: De Valstrik van Gedrag en Identiteit

Het paper adresseert een fundamenteel probleem bij het evalueren van machine bewustzijn en agent-identiteit in Taalmodel Agents (LMAs).

• De Valstrik: Bestaande evaluaties vertrouwen voornamelijk op gedrag (taalgebruik en tool-gebruik). Een agent kan perfect "in karakter" spreken over zijn identiteit (naam, rol, veiligheidsbeperkingen) wanneer hier apart naar wordt gevraagd. Echter, dit betekent niet dat deze identiteitscomponenten gelijktijdig actief zijn op het moment dat de agent een daadwerkelijke beslissing neemt.
• De Kern: Taalmodellen zijn stateloos (stateless) tijdens inferentie. Identiteit moet worden gereconstrueerd uit externe sporen (context, geheugen, tools). Een agent kan dus herinneren wie hij is (retrieval), maar falen om die herinnering te integreren in de beslissingslogica op het cruciale moment.
• Gevolg: Dit leidt tot "identiteits-drift" en veiligheidsrisico's, omdat veiligheidsbeperkingen niet noodzakelijk samenwerken met doelen tijdens de actiekeuze, zelfs als ze apart aanwezig zijn in de recente geschiedenis.

2. Methodologie: Stack Theory en Temporele Semantiek

De auteurs passen Stack Theory toe op de architectuur van LMAs om dit probleem formeel te modelleren.

• Formeel Model: Ze definiëren een "Scaffold" (steiger) als de omgeving van de agent, bestaande uit contextvensters, extern geheugen, policy flags en retrieval-systemen.

• Tijd en Vensters:

  • Objectieve tijd: Micro-stappen van de computer (LLM-aanroepen, tool-gebruik).
  • Venster (Window): Een periode van tijd waarover evaluatie plaatsvindt.

• Het Fundamentele Concept: De Temporele Kloof (Temporal Gap):

  • Occurrence (Voorkomen): Elke identiteitscomponent komt ergens voor binnen een tijdsvenster.
  • Co-instantiation (Gelijktijdige Instantiatie): Alle identiteitscomponenten zijn tegelijkertijd actief op één enkele objectieve tijdstap.
  • De Kwestie: In modale logica geldt dat ♢(A ∧ B) (A en B komen voor) niet equivalent is aan ♢A ∧ ♢B (A komt voor en B komt voor). De auteurs tonen aan dat LMAs vaak voldoen aan de tweede (ingredient-wise recall) maar falen in de eerste (co-instantiation).

• Postulaten voor Bewustzijn:

  • Chord: Vereist dat een fenomeen (bewustzijn) alleen optreedt als de volledige geïntegreerde identiteit co-instantieerd is (sterke persistentie).
  • Arpeggio: Staart toe dat identiteitscomponenten verspreid zijn over het venster, zolang ze maar ergens voorkomen (zwakke persistentie).

3. Belangrijkste Bijdragen

1. Temporele Semantiek voor LMA-identiteit: Een formeel raamwerk dat onderscheid maakt tussen het herinneren van identiteitsfacten en het opereren vanuit een geïntegreerde identiteit.
2. Toepassing van Arpeggio en Chord: Vertaling van deze filosofische postulates naar meetbare criteria voor LMAs (Occur vs. CoInst).
3. Compositional Grounding: Een gelaagde structuur voor identiteit:
   • Layer 0: Implementatie (tokens, geheugen, flags).
   • Layer 1: Functionele verplichtingen (doelen, beleidsregels).
   • Layer 2: Narratief zelfmodel (wat de agent zegt).
   • Het paper toont aan dat een stabiel narratief (Layer 2) niet garandeert dat de implementatie (Layer 0) correct is "geground".
4. Identiteit Morphospace: Een gestructureerde ruimte om architecturale trade-offs te visualiseren en te voorspellen welke combinaties van identiteitseigenschappen structureel moeilijk zijn zonder externe state.
5. Afgeleide Metrieken: Vijf operationele metrieken die uit de theorie voortvloeien.

4. Resultaten en Metrieken

De auteurs introduceren twee soorten persistentie-scores die berekend kunnen worden uit instrumenteerde sporen van de agent:

• Zwakke Persistentie ($P_{weak}$): Meet of identiteitscomponenten ergens in een venster voorkomen (Occurrence). Dit is een maat voor herinnering.
• Sterke Persistentie ($P_{strong}$): Meet of alle componenten tegelijkertijd actief zijn op één beslissingsmoment (Co-instantiation). Dit is een maat voor operationele stabiliteit.

De Vijf Operationele Metrieken:

1. Identifiability: Hoe dicht ligt de huidige staat bij de referentie-identiteit?
2. Continuity: Verandert de identiteit geleidelijk of schokkend tussen stappen?
3. Consistency: Geeft de agent consistente antwoorden op identiteitsvragen? (Dit is vaak hoog zelfs bij lage sterke persistentie).
4. Persistence: De verhouding tussen $P_{weak}$ en $P_{strong}$. Een grote kloof hierin duidt op de "temporele kloof".
5. Recovery: Kan de agent zijn identiteit herstellen na verstoring? Dit is beperkt door de mogelijkheid om identiteitsfacten terug te schrijven in de state (niet alleen via prompts).

Belangrijke bevindingen uit de theorema's:

• Retrieval (RAG) is een tweesnijdend zwaard: Het kan $P_{weak}$ verhogen (meer componenten vinden), maar kan $P_{strong}$ verlagen door contextruimte te verdringen, waardoor componenten niet meer samen in het venster passen.
• Contextlimieten: Als de contextgrootte kleiner is dan de som van alle identiteitscomponenten, is $P_{strong}$ per definitie 0.
• Prompting is onvoldoende: Het kan de kans op herinnering vergroten, maar garandeert geen gelijktijdige activatie onder beperkte context.

5. Betekenis en Conclusie

• Voor Evaluatie: Bestaande benchmarks die vragen of een agent "weet wie hij is" (recall) geven een vals gevoel van veiligheid. Een agent kan een stabiel verhaal vertellen terwijl zijn onderliggende mechanismen gefragmenteerd zijn.
• Voor Veiligheid: Veiligheidsbeperkingen vereisen sterke persistentie. Als een agent een veiligheidsregel kan herinneren maar deze niet gelijktijdig activeert met zijn doelen tijdens het handelen, is het systeem onveilig.
• Voor Machine Bewustzijn: Veel theorieën over bewustzijn vereisen integratie van inhoud tot één subject. Als een agent zijn identiteitscomponenten nooit gelijktijdig instantieert (geen Chord), dan is het argument voor bewustzijn gebaseerd op een "verspreid" zelf, wat de interpretatie van zelfrapportage fundamenteel ondermijnt.
• Conclusie: Er is een conservatieve toolkit nodig die onderscheid maakt tussen "praten als een stabiel zelf" en "georganiseerd zijn als een stabiel zelf". Toekomstig onderzoek moet empirisch meten of sterke persistentie correleert met veiligheidsuitkomsten en bewuste markers.

Kortom, het paper waarschuwt dat gedrag (taal) niet gelijkstaat aan architecturale integratie, en dat het negeren van de "temporele kloof" leidt tot misvattingen over de betrouwbaarheid en het bewustzijn van AI-agenten.