🤖 AI

ChronoState: Hidden Elapsed-Time Conditioning for Temporal-State Action Selection in Frozen-Backbone Language Models

Het ChronoState-paper demonstreert dat een bevroren taalmodel effectief verborgen, niet-tokenistische verstreken tijd kan combineren met symbolische taaktoestanden om temporele acties te selecteren onder directe supervisie, waarbij een hoge nauwkeurigheid wordt bereikt op specifieke benchmarks terwijl het faalt in het generaliseren naar ongeziene families of het overtreffen van eenvoudige via prompts geïnjecteerde tijdstempel-baselines.

Oorspronkelijke auteurs: Sam Siavoshian, Omar Ramadan, Amir K. Saeed, Benjamin A. Johnson, Amin Mohamed El-Amin Diab, Benjamin M. Rodriguez

Gepubliceerd 2026-08-11

📖 6 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Sam Siavoshian, Omar Ramadan, Amir K. Saeed, Benjamin A. Johnson, Amin Mohamed El-Amin Diab, Benjamin M. Rodriguez

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je praat met een zeer slimme robot die bijna alles heeft gelezen wat er op het internet staat geschreven. Deze robot is geweldig in het opvolgen van instructies, maar heeft een grappige blinde vlek: hij weet niet hoe laat het is. Voor de robot voelt een minuut precies hetzelfde als een jaar, tenzij je expliciet "Het is 15:00 uur" in de chat typt. Dit is een probleem voor taken in de echte wereld. Als een robot een bibliotheek beheert, moet hij weten wanneer een boek te laat is. Als hij een beveiligingssysteem beheert, moet hij weten of een wachtwoord is verlopen. Normaal gesproken vertellen we de robot de tijd door het in de chat te typen, zoals een mens een hint geeft. Maar wat als we de tijd direct in het brein van de robot konden fluisteren zonder dat de woorden zichtbaar zijn voor de robot? Dat is de grote vraag die dit artikel onderzoekt. Het vraagt: Kunnen we een "verborgen" tijdsignaal direct in het bevroren brein van een robot voeren, zodat deze betere beslissingen kan nemen, zelfs als de robot de tijd niet als tekst kan lezen?

De onderzoekers achter deze studie, onder leiding van Sam Siavoshian en collega's van Johns Hopkins University, hebben een speciale test genaamd ChronoState gebouwd om dit te beantwoorden. Ze wilden zien of ze een "verborgen" tijdsignaal in een taalmodel (het brein van de robot) konden injecteren dat niet deel uitmaakte van de zichtbare tekst. Denk er bijvoorbeeld zo over: normaal gesproken, als je wilt dat een robot weet hoe lang hij al wacht, moet je typen: "Je wacht al 5 minuten." In dit experiment probeerden de onderzoekers een andere truc. Ze hielden de tekst exact hetzelfde, maar voerden stiekem een getal dat "5 minuten" representeert direct in de interne bedrading van de robot in. Ze noemden dit Chronometric Injection. Het is alsof je de robot een geheim oortje geeft dat alleen hij kan horen, dat hem precies vertelt hoeveel tijd er is verstreken sinds een specifieke gebeurtenis, zoals het starten van een taak of het vullen van een cache.

Het team gebruikte een specif kind van een robotbrein genaamd Qwen2.5-3B-Instruct. Ze "bevroren" het hoofdgedeelte van het brein, wat betekent dat ze het niet lieten leren over nieuwe feiten of de kernkennis niet lieten veranderen. In plaats daarvan voegden ze een kleine, leerbare "adapter" toe (een klein stukje nieuwe bedrading) die naar dit geheime tijdsignaal kon luisteren. Ze testten de robot in zes verschillende scenario's, zoals beslissen of een computercache nog vers is, of een achtergrondtaak is voltooid, of een sessie van een gebruiker te oud is om nog te vertrouwen. De robot moest kiezen tussen acties zoals "Hergebruiken", "Wachten", "Verversen" of "Om bevestiging vragen".

De resultaten waren een mix van indrukwekkend succes en duidelijke beperkingen. Wanneer de robot het juiste verborgen tijdsignaal ontving, had hij de antwoorden ongeveer 93% van de tijd goed. Dit is een enorme sprong ten opzichte van de 55% die hij behaalde wanneer het tijdsignaal ontbrak of op nul stond. Nog interessanter: wanneer de onderzoekers de tijdsignalen door elkaar haalden (de robot de verkeerde tijd gaf, zoals zeggen dat er 5 minuten waren verstreken terwijl het eigenlijk 2 uur was), daalde de nauwkeurigheid van de robot naar ongeveer 33%. Cruciaal was dat de robot het verkeerde signaal niet simpelweg negeerde; hij volgde het verkeerde signaal juist op en maakte op basis daarvan de verkeerde beslissing. Dit bewijst dat de robot echt naar het verborgen signaal "luisterde" en het gebruikte om zijn antwoord te berekenen, in plaats van gewoon te gokken.

Het artikel is echter zeer voorzichtig om dit niet te presenteren als een magische oplossing. De onderzoekers ontdekten dat hoewel de verborgen tijd-truc goed werkte, het niet de beste manier was om de robot de tijd te geven. Wanneer ze simpelweg de tijd in de chat typten (als een normale prompt) en de robot daarop trainden, kreeg de robot het in 99% van de gevallen goed. Dus het verborgen signaal is geen "overwinning" in termen van pure nauwkeurigheid. In plaats daarvan ligt de waarde ervan in het feit dat het een apart, controleerbaar kanaal is. Het stelt een systeem in staat om de reactie van de robot op de tijd te testen zonder dat de tijd zichtbaar is in de tekst, wat nuttig kan zijn voor beveiliging of voor het testen van hoe de robot omgaat met tegenstrijdige informatie.

De studie vond ook waar het brein van de robot tegen een muur aanliep. Hoewel de robot erg goed werd in het afhandelen van nieuwe sjablonen en verschillende tijdsduur, had hij moeite wanneer hij werd gevraagd wat hij had geleerd toe te passen op een compleet nieuw type taak die hij nog niet eerder had gezien (specifiek een "quota"-resettaak). Hij kreeg dit slechts ongeveer 50% van de keren goed, wat in feite een kop of munt is. Dit suggereert dat de robot leerde de regels voor de specifieke taken die hij zag te volgen, maar het abstracte concept van "tijdslimieten" niet goed genoeg begreep om dit op totaal nieuwe situaties toe te passen.

Uiteindelijk concludeert het artikel dat ja, je kunt succesvol tijd in het bevroren brein van een robot fluisteren, en hij zal die fluistering gebruiken om beslissingen te nemen. Het is een werkende, controleerbare interface. Maar dit betekent niet dat de robot een eigen besef van tijd heeft ontwikkeld, noch betekent het dat deze verborgen methode beter is dan gewoon de tijd hardop aan de robot vertellen. Het is een handige truc voor onderzoekers om te bestudelen hoe robots tijd verwerken, maar voor het bouwen van systemen in de echte wereld blijft de ouderwetse manier — het simpelweg in de prompt schrijven van de tijd — de meest betrouwbare kampioen. De auteurs suggereren dat deze methode een geweldig hulpmiddel is voor defensieve en beveiligings-AI, waarbij je de timing van een robot wilt controleren zonder die timing in de tekstlogs te onthullen, maar ze waarschuwen dat je nog steeds voorzichtig moet zijn en de tijdbronnen moet dubbelchecken, want als het geheime signaal fout is, zal de robot met veel zelfvertrouwen de verkeerde keuze maken.

Technische Samenvatting: ChronoState – Verborgen Elapsed-Time Conditionering voor Temporele Toestandsactie-selectie

1. Probleemstelling

Gedeployed taalmodel (LM) systemen interageren vaak met externe toestanden waarbij beslissingen afhangen van zowel de symbolische taaktoestand (bijv. "cache gevuld", "job gestart") als de verstreken wandkloktijd (bijv. "5 minuten geleden", "quota gereset morgen"). In veel scenario's, zoals bij defensie- en beveiligingsworkflows, is het expliciet in de gebruikerszichtbare prompt schrijven van tijdstempels suboptimaal of riskant: het kan systeemtiming lekken, mengen met onbetrouwbare tekst, of begraven worden in lange contexten.

De centrale onderzoeksvraag is of een frozen-backbone taalmodel een niet-token, systeemzijde scalaire die de verstreken tijd ( $\tau$ ) representeert, kan gebruiken om te componeren met de zichtbare symbolische toestand ( $s$ ) voor temporele actie-selectie. Het paper onderzoekt of deze "verborgen" tijd (verborgen voor de tokenstroom maar toegankelijk voor de modelberekening) causaal deterministische beslissingen kan aansturen zonder dat het model autonoom tijd hoeft bij te houden of symbolische controllers hoeft te vervangen.

2. Methodologie

2.1 Chronometric Injection (CI) Interface

De voorgestelde interface, Chronometric Injection, codeert verstreken seconden in een continue feature-vector en injecteert deze in de residual stream van een frozen LM-backbone.

Tijdcodering: De verstreken tijd $\tau$ wordt gemapt naar een 31-dimensionale vaste feature-vector $\chi(\tau)$ met behulp van een sinusvormige plus logaritmische codering:
$\chi(\tau) = [\sin(\tau/T_1), \cos(\tau/T_1), \dots, \sin(\tau/T_{15}), \cos(\tau/T_{15}), \log(1 + \tau)]^\top$
waarbij $T_k$ specifieke divisors zijn variërend van 2 tot 604.800 seconden.
Modulatie: De gecodeerde tijd-vector moduleert de residual hidden states $h_\ell$ op transformer laag $\ell$ via gated FiLM (Feature-wise Linear Modulation):
$h'_\ell = h_\ell + \alpha_\ell \odot (\gamma_\ell \odot h_\ell + \beta_\ell)$
Hierbij zijn $\gamma_\ell$ en $\beta_\ell$ affine transformaties van $\chi(\tau)$ , en $\alpha_\ell$ is een geleerde per-kanaal gate.
Initialisatie: De conditionering-projectoren zijn zero-initialized ( $\alpha_\ell=0$ , gewichten=0, biases=1 voor schaling), zodat het model aan het begin van de training exact hetzelfde gedrag vertoont als de frozen backbone, om abrupte distributieverschuivingen te voorkomen.
Adaptatie: Een Rank-8 LoRA oppervlak wordt toegepast op de attention projecties en de taalmodel-head om het beleid voor actie-selectie over de gemoduleerde toestanden te leren. De backbone parameters blijven frozen.

2.2 De ChronoState Benchmark

ChronoState is een forced-choice benchmark ontworpen om temporele toestand-redenering te evalueren.

Taak: Gegeven een zichtbare prompt die de symbolische toestand $s$ beschrijft en een verborgen scalaire $\tau$ , moet het model een actie selecteren uit een eindige verzameling: $\{ \text{REUSE, WAIT, RETRIEVE, REFRESH, WAIT QUOTA, DEADLINE MISSED, ASK CONFIRM} \}$ .
Families: De benchmark dekt zes families: Cache (TTL), Job (duur), Deadline (slack), Quota (reset), Staleness (sessie-leeftijd) en Multi-constraint (prioriteit compositie).
Oracle: Een deterministisch beleid $\pi(s, \tau)$ genereert het gouden label op basis van strikte regels (bijv. als $\tau \ge \text{TTL}$ , dan REFRESH).
Splits: De dataset bevat standaard testsets en uitgesloten splits voor templates, duur (interpolatie), composities (multi-constraint) en families (pure quota, welke uit de training is uitgesloten).

2.3 Experimentele Controles

Om causale afhankelijkheid van de verborgen scalaire vast te stellen, gebruikt de studie verschillende controles:

No-time: $\tau$ is ingesteld op nul.
Shuffled-time: $\tau$ wordt vervangen door de scalaire van een ander voorbeeld (met behoud van het originele label).
Prompt Timestamp: Tijd wordt als tekst in de prompt geschreven (verborgen $\tau=0$ ).
Conflict: Zichtbare tekst en de verborgen scalaire zijn in strijd.
Baselines: Omvat LoRA-only (geen tijdkanaal), Vanilla (geen LoRA), en Prompt+LoRA (getraind op tekstuele tijdstempels).

3. Belangrijkste Resultaten

3.1 Prestaties op Standaardtaken

Gebruikmakend van Qwen2.5-3B-Instruct als de frozen backbone:

Hidden-time CI: Behaalde een nauwkeurigheid van 0.9305 ± 0.0134 en een gebalanceerde nauwkeurigheid van 0.9410 ± 0.0103 op de standaard test.
Prompt+LoRA Baseline: Presteerde beter dan de hidden-time benadering met 0.9893 ± 0.0052 nauwkeurigheid.
No-Time Control: De nauwkeurigheid daalde naar 0.5511, wat aangeeft dat het model vertrouwt op de tijd-scalaire.
Shuffled-Time Control: De nauwkeurigheid daalde naar 0.3323, met een hoge Wrong-State Consistency (WSC) (~0.91). Dit bevestigt dat het model causaal acties herberekent op basis van de geïnjecteerde scalaire, zelfs wanneer de scalaire onjuist is.

3.2 Generalisatie en Beperkingen

Sterke Generalisatie: Het model generaliseerde goed naar uitgesloten templates (0.9357), duur (0.8375) en multi-constraint composities (0.8652).
Zwakke Transfer: De prestaties stortten in bij de pure uitgesloten quota-familie (0.5065). Hoewel quota-logica voorkwam in multi-constraint trainingsvoorbeelden, slaagde het model er niet in om de pure quota-predicaat te abstraheren wanneer deze geïsoleerd was.
Conflict Afhandeling: In conflict-scenario's volgde het model sterk de verborgen scalaire (scalar-follow ~0.90) in plaats van de zichtbare tekst, wat duidt op dominantie van het verborgen kanaal maar een gebrek aan veilige discrepantie-afhandeling.

3.3 Lineaire Diagnostiek

Lineaire modellen met engineered state features plus de tijd-codering ( $\chi(\tau) + s$ ) behaalden een hoge prestatie (bijv. 0.9230 op standaard tests), wat bewijst dat de taak oplosbaar is met expliciete features. Het neurale model ving veel van deze structuur op, maar kon de prestaties van de lineaire baseline op de pure quota-split niet evenaren.

4. Claims en Betekenis

Het paper maakt een beperkte, intentionele claim:

Haalbaarheid: Een verborgen, niet-token verstreken-tijd scalaire kan causaal componeren met een zichtbare symbolische toestand in een frozen-backbone LM om temporele acties te selecteren onder directe supervisie.
Interface Nut: De Chronometric Injection interface biedt een controleerbaar, systeemzijde kanaal dat genullerd, gehusseld of in conflict gebracht kan worden met zichtbare tekst, wat het een waardevol onderzoeksobject maakt voor het bestuderen van systeem-toestand interfaces.
Geen Superioriteit: Het paper beweert expliciet niet dat hidden-time conditionering superieur is aan prompt tijdstempels (de Prompt+LoRA baseline is sterker).
Geen Autonome Tracking: Het model bezit geen autonome tijdsperceptie; het vertrouwt volledig op de extern geleverde scalaire. Als de scalaire onjuist is, produceert het model onjuiste acties.
Geen Brede Abstractie: Het falen op de pure uitgesloten quota-familie geeft aan dat het model geen brede, ongeziene familie-abstractie bereikt voor alle predicaattypen.

Conclusie: ChronoState valideert een specifiek architecturaal patroon voor tijd-bewuste beslissingsondersteuning in beveiligde of beperkte omgevingen waar tijd invloed moet hebben op routing zonder in de zichtbare tokenstroom te komen. Het dient als een benchmark en evaluatieprotocol voor hidden-time conditionering, in plaats van een demonstratie van algemene temporele intelligentie of een vervanging voor deterministische symbolische controllers.