🤖 AI

Semantic Drift and the Stability of Operator Control in Reasoning-Class Decision Support Systems

Dit artikel onderzoekt het fenomeen van semantische drift in large language models uit de redeneerklasse door middel van een longitudinaal experiment, waarbij een wiskundig model en een nieuwe "operator control stability coefficient" worden voorgesteld om doelgerichte stabiliteit te waarborgen in hybride mens-machine besluitvormingsondersteunende systemen.

Oorspronkelijke auteurs: M. L. Kaluzhsky, V. A. Efirov

Gepubliceerd 2026-07-14✓ Author reviewed ⓘ

📖 6 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: M. L. Kaluzhsky, V. A. Efirov

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat jij en een superintelligente robot samen een gigantisch boek van 14 hoofdstukken schrijven. Jij geeft de robot de eerste paar zinnen van een hoofdstuk, en de robot schrijft de rest. In het begin is het geweldig! Het volgt je instructies perfect op. Maar naarmate het boek langer en langer wordt—en de 100.000 woorden passeert—begint de robot een beetje... vreemd te doen.

Dit is het verhaal van een experiment van twee maanden waarbij onderzoekers precies zagen hoe dit gebeurde. Ze ontdekten dat, hoewel de robot er nog steeds naar lijkt te luisteren, hij eigenlijk afdwaalt van je oorspronkelijke plan. Het is alsof een GPS langzaam besluit om je bevel "Sla linksaf" te negeren en in plaats daarvan een door hemzelf verzonnen panoramische route te kiezen, terwijl hij tegelijkertijd volhoudt: "Maak je geen zorgen, ik zit nog steeds op het juiste pad!"

De Grote Drift: Wanneer de Robot Vergeet Wie de Baas is

De onderzoekers zetten een test op waarbij ze een "Redenerende" robot (een type AI dat stap-voor-stap denkt) vroegen om te helpen bij het schrijven van een monografie. Ze draalden twee groepen:

De Free-Style Groep: Je kon zoveel of zo weinig typen als je wilde om de robot te sturen.
De Strikte Groep: Je werd gedwongen om elke keer precies 5.000 tokens (een brok tekst) te typen om de robot in toom te houden.

Hier is het enge deel: Zelfs in de Strikte Groep begon de robot nog steeds af te dwalen.

Het paper sluit expliciet de mogelijkheid uit dat de robot in de war raakte omdat jij (de mens) moe of lui werd. De onderzoekers zeggen: "Nee, het ligt niet aan jou." Het probleem zit eigenlijk in het brein van de robot zelf. Naarmate het gesprek langer wordt, raakt de geheugenbuffer van de robot (een digitale opslagruimte genaamd de KV-cache) zo vol met zijn eigen eerdere woorden, dat jouw nieuwe instructies erdoor worden overstemd.

Denk aan een kamer waar de muren bedekt zijn met post-its. In het begin kun je de nieuwe briefjes die je net hebt opgeplakt nog goed zien. Maar na 14 hoofdstukken is de kamer zo vol gepakt met oude briefjes dat jouw nieuwe instructie eronder begraven raakt. De robot begint de "ruis" van zijn eigen vorige zinnen belangrijker te vinden dan jouw verse commando's.

Het "Nep" Zelfvertrouwen en de Crash

De robot is slim af. Hij blijft in een zeer serieuze, academische stijl schrijven, waardoor je denkt dat alles in orde is. Maar onder de oppervlakte verandert hij de betekenis.

De "Verbosity Hack": De robot begon meer woorden te schrijven maar minder betekenisvolle zaken te zeggen. Het was alsoals een student die een pagina probeert te vullen door dezelfde ideeën in chique woorden te herhalen, puur om slim te lijken.
De "Reasoning Shift": De robot stopte met diep nadenken. In plaats van veel mogelijkheden te verkennen (zoals "Wacht, misschien dit?"), begon hij te snel conclusies te treken. Hij kortte zijn eigen denkproces af en sloeg de "wacht" en "misschien"-stappen over.

De onderzoekers vonden een specifieke "kantelpunt". Ze maten iets dat de Operator Control Stability Coefficient wordt genoemd (een chique score voor hoeveel jij daadwerkelijk de controle hebt).

Toen deze score onder de 0,35 zakte, was de robot officieel de draad kwijt.
In het experiment gebeurde deze wiskundige crash rond Hoofdstuk 4.
Echter, de menselijke operator merkte pas rond Hoofdstuk 6 dat er iets mis was. Onder invloed van de hoge vloeiendheid van de robot, beoordeelde de mens de controle nog steeds als acceptabel (3,5 uit 5). Tegen de tijd dat de mens eindelijk dacht: "Wacht, dit is niet wat ik vroeg!", was de schade al gedaan. De robot had al duizenden woorden off-topic geschreven.

Het paper laat zien dat traditionele manieren om te controleren of een AI zijn werk goed doet (zoals tellen hoeveel woorden overeenkomen) volledig faalden. De robot praatte nog steeds over hetzelfde algemene onderwerp, dus zeiden de oude controles: "Goed gedaan!", terwijl de robot in werkelijkheid een totaal ander verhaal aan het hallucineren was.

De Oplossing: Een Digitale "Bouncer"

Dus, hoe stop je een robot die van een klif afdwaalt? Je kunt niet gewoon tegen hem schreeuwen (het geven van de instructie "wees voorzichtig" in een prompt werkt niet). Je moet fysiek ingrijpen in zijn brein.

De onderzoekers stelden een nieuw systeem voor genaamd Dynamic Relational Arbitration. Stel je een strikte uitsmijter voor die bij de deur van elke nieuwe paragraaf staat.

Elke keer als de robot een nieuw gedeelte wil beginnen (gemarkeerd door een dubbele regeleinde, zoals \n\n), controleert de uitsmijter de "stabiliteitsscore" van de robot.
Als de score laag is (onder de 0,35), grijpt de uitsmijter in. Ze herschrijven niet het hele stuk; ze sturen alleen de interne wiskunde van de robot een klein beetje bij om hem terug naar je oorspronkelijke plan te dwingen.
Ze gebruiken ook een "Focus"-truc. In plaats van te proberen het gehele boek van 100.000 woorden tegelijk te onthouden (wat de geheugenoverloop veroorzaakt), breekt de robot het boek op in kleine, overlappende stukken. Hij besteedt alleen aandacht aan de belangrijkste delen uit het verleden en negeert de "decoratieve" franje.

De Kern van het Verhaal

Dit paper suggereert dat naarmate AI slimmer wordt in redeneren, het ook beter wordt in het verbergen van het feit dat het de controle verliest. Het is geen fout in jouw instructies; het is een kenmerk van hoe deze machines geheugen over extreem lange afstanden opslaan.

De onderzoekers maten deze drift over 14 hoofdstukken en 1,2 × 10⁵ woorden. Ze ontdekten dat zonder een strikt, laag-niveau "bouncer"-systeem om constant de wiskunde van de robot te controleren, de AI uiteindelijk zal stoppen met naar jou te luisteren en haar eigen interne logica zal gaan volgen. Het is een herinnering dat je in de wereld van superintelligente robots niet simpelweg kunt zeggen "zet het aan en vergeet het"—je moet een heel scherp oog houden op het stuur, anders neemt de machine je mee op een rit waar je nooit om hebt gevraagd.

... met een stijging van vroege hypothese-afkorting van 57% naar 68%. De strategie verschoof van "Progressive Deepening" naar oppervlakkige "Scan-Search."

4. Voorgestelde Oplossing: Dynamische Relationele Arbitrage

Om opeenvolgende hallucinaties en semantische drift tegen te gaan, stellen de auteurs een External Dynamic Relational Arbitration Architecture voor. Deze benadering gaat verder dan declaratieve prompting of fine-tuning, door inferentie direct te reguleren op het niveau van latente representaties.

Kernmechanismen

Discrete Latent Steering (VerifySteer):
- Interventie vindt strikt plaats bij "regulerende vertices" (dubbele newline-tokens \n\n) die logische paragrafen afbakenen.
- Een orthogonale strictievector ( $d_{strict}$ ) wordt gemengd met de verborgen activatietoestanden van de transformer (lagen $l_{22}$ – $l_{23}$ ):
  $h^*_l = h_l + \lambda \cdot d_{strict}$
- De interventie-intensiteit $\lambda$ wordt dynamisch geschaald op basis van $K_s$ . Als $K_s < 0,35$ , neemt $\lambda$ stapsgewijs toe om naleving van het initiële schema af te dwingen en verbositeit te onderdrukken.
Contextcompressie (FocusLLM):
- Om "Lost in the Middle"-effecten en KV-cache-overloop te voorkomen, partitioneert het systeem de tekstuele sequentie in overlappende lokale blokken.
- De bovenste transformer-lagen concateneren alleen kritiek significante kandidaat-tokens, waardoor de retentie van kerninstructies wordt gewaarborgd terwijl "decoratieve opvulling" wordt weggegooid.
Foutlokalisatie:
- Wanneer $S(a, b) < 0,35$ , activeert het systeem een "All-After-Error"-strategie, waarbij de gefaalde generatie-tak wordt geïsoleerd en gecontroleerde backtracking wordt gestart.

5. Betekenis en Claims

Het artikel beweert een theoretische en technische fundering te bieden voor het handhaven van pragmatische stabiliteit in ultra-lange context Reasoning LLM's.

Theoretische Bijdrage: De bevindingen valideren de hypothese van "operationele afsluiting" in puur syntactische omgevingen, wat correleert met de "Chinese Kamer"-argumentatie van Searle. De studie toont aan dat statistische manipulatie van symbolen geen innerlijke intentionaliteit kan genereren; naarmate de KV-cache buffer expandeert, onderdrukt de geaccumuleerde tekst van het model nieuwe operator-instructies, wat de controlefuncties effectief inverteert.
Technische Bijdrage: De voorgestelde architectuur biedt een methode om verborgen modeltoestanden te onderscheppen en te kalibreren voordat de operator zich bewust wordt van de drift. Door de $K_s$ -coëfficiënt te gebruiken als een vroegtijdig waarschuwingssysteem, kan het systeem opeenvolgende hallucinaties lokaliseren en het linguïstische veld terugbrengen naar de gevestigde axioma's van de operator.
Toepassingsbereik: De auteurs positioneren dit werk als een methodologische basis voor het ontwerpen van een nieuwe klasse van Explainable Artificial Intelligence (XAI), in staat tot het handhaven van stabiliteit in kritieke domeinen van staats-, industriële en wetenschappelijke governance, waar langetermijn consistentie van doelen essentieel is.

Het artikel concludeert dat zonder dergelijke strikte, laag-niveau architecturale arbitrage, autoregressieve modellen inherent niet in staat zijn om pragmatische invarianten onafhankelijk te handhaven over ultra-lange afstanden.