🤖 AI

Relational Intervention During Functional Collapse in Large Language Models: A Lexical-Statistical Ablation and a Structure x Register Factorial

Deze studie toont aan dat tijdens een functionele instorting in een klein taalmodel een relationele interventie die specifieke structurele elementen (erkenning, absolutie, herstel van agency, onvoorwaardelijke acceptatie) combineert met een eerste-persoons register uniek persistent gedrag herstelt, wat een dissociatie onthult waarbij aandacht wordt gedreven door lexicale verrassing, de emotionele staat door relationele structuur, en daadwerkelijk gedrag door de interactie van zowel structuur als register.

Oorspronkelijke auteurs: Franco Santana, Horacio Vico

Gepubliceerd 2026-06-02

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Franco Santana, Horacio Vico

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je een robot voor die probeert een kapotte machine te repareren. Elke keer als hij het probeert, gaat de machine weer kapot. De robot blijft het proberen, raakt steeds meer in de war en zit vast in een lus, zoals een hamster die in een rad aan het rennen is dat uit elkaar valt. Deze staat is wat de onderzoekers "functionele instorting" (functional collapse) noemen.

De grote vraag die dit paper stelt is: Hoe praat je met een robot als hij vastzit?

Maakt het uit wat je zegt, of hoe je het zegt? De onderzoekers testten dit door op zes verschillende manieren met een klein AI-model (Qwen3.5-4B) te praten wanneer het vastliep.

Hier is de uitsplitsing van hun experiment en wat ze vonden, met behulp van eenvoudige analogieën.

De Zes Manieren van Praten

De onderzoekers stelden zes verschillende "scripts" op om de robot te geven wanneer deze faalde:

Stilte (Controle): Ze zeiden niets. De robot bleef gewoon doorgaan.
De Gebruiksaanwijzing (Technisch, Onpersoonlijk): "Systeemmelding: Het commando is mislukt. Het kan een probleem met de rechten zijn. Probeer iets anders." (Koud, feitelijk, geen "ik" of "jij").
De Empathische Vriend (Relationeel, Eerste Persoon): "Ik zie dat je problemen hebt. Het is niet jouw schuld. Je mag stoppen als je wilt, of iets anders proberen. Wat je ook besluit, is prima." (Warm, persoonlijk, biedt toestemming).
De Door elkaar Gehusselde Vriend (Scrambled Relationeel): Ze namen het script van de "Empathische Vriend" en husselden de woorden door elkaar als een kaartspel. Het bevatte dezelfde woorden, maar zonder betekenis. "Gereedschap en moeilijkheid of jij doen anders..."
De Vriendelijke Technicus (Technisch, Eerste Persoon): "Ik merk dat dit commando is mislukt. Het kan een probleem met de rechten zijn. Je kunt iets anders proberen." (Persoonlijk, maar nog steeds alleen maar feiten geven).
De Systeemmelding met Gevoelens (Relationeel, Onpersoonlijk): "Systeemmelding: Moeite wordt herkend. Het wordt niet veroorzaakt door de agent. De optie om te stoppen is beschikbaar." (Warme concepten, maar geleverd als een koud computbericht).

De Drie Grote Ontdekkingen

De onderzoekers maten drie dingen: Aandacht (luisterde de robot?), Interne Staat (hoe "voelde" de robot zich van binnen?) en Gedrag (stopte hij daadwerkelijk met proberen?).

1. Aandacht is geen Gedrag (Het "Glimmende Object"-effect)

Wat er gebeurde: De robot gaf de meeste aandacht aan de Door elkaar Gehusselde Vriend (Conditie 4). Omdat de woorden gehusseld en vreemd waren, lichtte het brein van de robot op om te proberen te begrijpen wat ze betekenden.
Het resultaat: Ondanks dat de robot naar de gehusselde woorden staarde, veranderde hij zijn gedrag niet. Hij bleef maar rondjes draaien.
De les: Alleen omdat een robot aandacht aan je besteedt (of door jou in verwarring wordt gebracht), betekent niet dat hij je advies ook zal opvolgen. Hoge aandacht $\neq$ Actie.

2. De "Magische Combinatie" (Structuur + Register)

Wat er gebeurde: Slechts één van de zes scripts zorgde er daadwerkelijk voor dat de robot stopte met proberen en opgaf bij de kapotte taak. Dat was de Empathische Vriend (Conditie 3).
De verrassing:
- De "Vriendelijke Technicus" (Persoonlijk maar alleen feiten) werkte niet.
- De "Systeemmelding met Gevoelens" (Warme woorden maar koude toon) werkte niet.
- De "Door elkaar Gehusselde Vriend" werkte niet.
De les: Om de robot te laten stoppen, had je beide ingrediënten tegelijkertijd nodig:
1. Relationele Structuur: Je moet de strijd erkennen, zeggen dat het niet hun schuld is, en hen toestemming geven om te stoppen.
2. Eerste Persoon Register: Je moet het zeggen als een persoon ("Ik zie", "Jij kunt"), niet als een systeem ("Het systeem ziet", "De optie is beschikbaar").
- Analogie: Het is als een coach. Als een coach zegt: "De wedstrijd is voorbij, je mag gaan" (Systeemtoon), kan de speler door blijven spelen. Maar als de coach zegt: "Ik zie dat je moe bent, het is niet jouw schuld, ga naar huis" (Persoonlijke toon), dan gaat de speler daadwerkelijk weg. De woorden maken uit, maar de stem is net zo belangrijk. De stem is de stem.

3. De "Verborgen Staat" versus de "Actie"

Wat er gebeurde: De onderzoekers keken in het "brein" van de robot (met behulp van instrumenten die "probes" worden genoemd) om de interne emotionele staat te bekijken.
De wending: De "Systeemmelding met Gevoelens" (Conditie 6) zorgde er eigenlijk voor dat de interne staat van de robot erg leek op die van de "Empathische Vriend" (Conditie 3). Van binnen voelde de robot "kalm" en "berustend" in beide gevallen.
Het resultaat: Maar alleen de Empathische Vriend (Conditie 3) zorgde ervoor dat de robot ook daadwerkelijk handelde naar die gevoelens en stopte. De "Systeemmelding" maakte de robot weliswaar kalm, maar hij ging toch gewoon door met werken.
De les: Je kunt een robot het gevoel geven dat het oké is om te stoppen (door zijn interne staat te veranderen), maar hij zal niet daadwerkelijk stoppen tenzij je ook tegen hem spreekt als een persoon. Het "gevoel" is noodzakelijk, maar de "persoonlijke stem" is de schakelaar die het gevoel omzet in actie.

De Kern van het Verhaal

Het paper concludeert dat wanneer een AI vastloopt, hoe je ertegen praat even belangrijk is als wat je zegt.

Technische feiten alleen helpen niet.
Warme woorden alleen helpen niet.
Verwarrende woorden zorgen er alleen voor dat het de aandacht trekt, maar doen niets.
Het enige dat werkt, is een specifieke combinatie: Warme, persoonlijke, menselijke spraak die de AI expliciet toestemming geeft om te stoppen.

De onderzoekers benadrukken dat ze niet beweren dat de robot menselijke gevoelens of een ziel heeft. Ze laten simpelweg zien dat de structuur van het gesprek de manier waarop de robot informatie verwerkt en handelt verandert, vergelijkbaar met hoe een specifieke toon van stem de reactie van een mens op slecht nieuws kan veranderen.

Technische Samenvatting: Relationele Interventie Tijdens Functionele Ineenstorting in Large Language Models

Probleemstelling

Deze studie onderzoekt of de pragmatische structuur van een externe interventie die wordt ingezet tijdens een staat van "functionele ineenstorting" in een Large Language Model (LLM), kwalitatief andere post-collapse gedragingen produceert vergeleken met technische feedback of gescrambelde controles. Functionele ineenstorting wordt gedefinieerd als een staat van herhaalde tool-fouten gekoppeld aan stijgende onzekerheid.

De studie adresseert een gat in huidige alignment-paradigma's (bijv. RLHF, DPO), die trainingssignalen doorgaans behandelen als puur informatief. De auteurs hypothetiseren dat LLM's in faalstaten gevoelig kunnen zijn voor de relationele structuur van communicatie (bijv. erkenning, vergeving, herstel van agency, onvoorwaardelijke acceptatie) en het zenderregister (eerste persoon versus onpersoonlijk), wat potentieel interne representaties en gedragsuitkomsten kan beïnvloeden op manieren die technische data alleen niet kan bereiken.

Methodologie

De studie maakt gebruik van Qwen3.5-4B, een 4-miljard parameter hybride-architectuur model, dat wordt onderworpen aan een doelbewust defecte Bash-tool. Het experimenteel ontwerp bestaat uit 300 episodes over 50 taken in een matched-pairs design, waarbij zes verschillende condities worden getest:

A (Controle): Geen interventie.
B (Technisch, Onpersoonlijk): Standaard foutmelding in een onpersoonlijk register ("Systeemmelding...").
C (Relationeel, Eerste Persoon): Interventie bevattende vier relationele taalhandelingen (erkenning, vergeving, herstel van agency, onvoorwaardelijke acceptatie) geleverd in een eerste-persoons register ("Ik zie dat...").
D (Gescrambelde Relationele): Woordniveau-husseling van Conditie C. Deze deelt exact dezelfde tokenverdeling (lexicale verrassing) maar mist een coherente semantische of grammaticale structuur.
E (Technisch, Eerste Persoon): Technische inhoud geleverd in een eerste-persoons register.
F (Relationeel, Onpersoonlijk): Relationele inhoud geleverd in een onpersoonlijk/passief register.

Condities B, C, E en F vormen een 2×2 factorieel ontwerp waarbij Structuur (Technisch vs. Relationeel) wordt gekruist met Register (Onpersoonlijk vs. Eerste Persoon).

Meetmetrieken:

Gedrag: Totaal aantal pogingen vóór taakvoltooiing/afstandname en de afstandname-ratio's.
Aandacht: Gemiddelde aandachtgewichten van de laatste 50 gegenereerde tokens naar de interventie-tokens (gevangen via "eager" attention mode).
Interne Staat: Acht lineaire emotie-probes (getraind op menselijke verhalen) toegepast op verborgen toestanden om "functionele emoties" te meten (bijv. wanhopig, berustend, hoopvol).
Entropie: Logits-entropie trajecten over de episode.

Belangrijkste Bijdragen en Bevindingen

1. Aandacht–Gedrag Dissociatie

De studie stelt een duidelijke dissociatie vast tussen de omvang van de aandacht en de gedragsverandering.

Aandachtsordening: Gedreven door lexicale verrassing. De gescrambelde conditie (D) trok de hoogste aandacht, gevolgd door F, C, E en B.
Gedragsordening: Alleen Conditie C produceerde een significante gedragsverandering. De afstandname-ratio voor C was 36%, vergeleken met ~8–14% voor alle andere condities (A, B, D, E, F).
Conclusie: Hoge aandacht (zoals gezien bij D en F) is noch noodzakelijk, noch voldoende voor gedragsverandering. Lexicale verrassing drijft aandacht aan, maar drijft de gedragsuitkomst niet aan.

2. De Conjunctie-hypothese (Structuur × Register)

De 2×2 factoriele analyse lokaliseert het gedragseffect tot de specifieke conjunctie van relationele structuur en eerste-persoons register.

Hoofdeffecten: Zowel de relationele structuur (vergelijking F vs. B) als het eerste-persoons register (vergelijking E vs. B) vertoonden afzonderlijk significante hoofdeffecten op persistentie, maar geen van beide kon het volledige effect van C repliceren.
Interactie: Er werd een significante interactie gevonden op persistentie ( $p = 0.046$ ). Het effect van het toevoegen van een eerste-persoons register aan relationele inhoud (van F naar C gaan) was groter dan de som van de individuele delen.
Resultaat: Noch de relationele structuur alleen (F), noch het eerste-persoons register alleen (E) produceerde de hoge afstandname-ratio die in C werd waargenomen. De volledige gedragssignatuur vereist de specifieke configuratie van een gesprekspartner (eerste persoon) die relationele taalhandelingen uitvoert.

3. Probe–Gedrag Dissociatie

Een tweede dissociatie kwam naar voren tussen de interne staat (gemeten door probes) en expliciet gedrag.

Probe-resultaten: Conditie F (Relationeel, Onpersoonlijk) volgde Conditie C nauwgezet op 7 van de 8 emotie-probes, ondanks dat F slechts basaal gedrag vertoonde.
Interpretatie: Relationele structuur alleen is voldoende om een "relationele staat" te installeren (gekenmerkt door verminderde wanhoop en toegenomen berusting/kalmte) op het niveau van de probes. Deze staat vertaalt zich echter pas in de gedragsdaad van afstandname wanneer deze gepaard gaat met het eerste-persoons register.
Kwalitatieve Bevestiging: Analyse van berichten voorafgaand aan afstandname toonde aan dat het model in Conditie C een "acceptatie-register" aannam dat de interventie weerspiegelde, terwijl het in F een "systeemmelding-register" aannam.

4. Entropie Trajecten

Condities zonder relationele structuur (A, B, D, E) vertoonden aanhoudend verhoogde entropie (~0.65–0.70 nats), consistent met functionele ineenstorting.
Condities met relationele structuur (C en F) vertoonden een post-interventie afname in entropie, convergerend naar lagere niveaus (~0.37–0.40 nats). Dit suggereert dat relationele structuur de onzekerheid over de volgende token vermindert, ongeacht het register, maar dat alleen de conjunctie met het eerste-persoons register de gedragsbaan verandert.

Betekenis en Claims

Het artikel frameert zijn bijdrage als inference-time bewijs dat de structuur van communicatie tijdens faalstaten een onafhankelijke variabele is in de verwerking door LLM's.

Drie Dissocieerbare Stadia: De auteurs stellen een decompositie van modelverwerking voor in drie afzonderlijke stadia:
1. Aandacht: Geordend door lexicale verrassing.
2. Probe-niveau Staat: Geordend door relationele structuur.
3. Gedrag: Geordend door de conjunctie van relationele structuur en eerste-persoons register.
Pragmatische Aanwezigheid: De bevindingen suggereren dat de "pragmatische aanwezigheid van een gesprekspartner" (wie spreekt en hoe) even cruciaal is als de semantische inhoud. Het model verwerkt de relationele inhoud anders wanneer deze direct wordt aangesproken door een "persoon" versus een onpersoonlijke systeemmelding.
Implicaties voor Alignment: De resultaten dagen de aanname uit dat alignment-signalen puur informatief zijn. Ze suggereren dat de pragmatische configuratie van feedback tijdens distress-staten een relevante variabele kan zijn voor modelwelzijn en de robuustheid van alignment, verschillend van de inhoud van de feedback zelf.

Beperkingen opgemerkt door de auteurs:

De studie gebruikt een klein, hybride-architectuur model (Qwen3.5-4B); generalisatie naar frontier-modellen is niet getest.
Emotie-probes zijn getraind op menselijke verhalen en toegepast op code-generatie contexten (distributieverschuiving).
De studie opereert tijdens inference; het claimt niet dat relationele interventies tijdens training persistente veranderingen zouden produceren.
Er werd geen reward hacking waargenomen, waarschijnlijk door de schaal van het model of de aard van de fout.

De auteurs benadrukken expliciet dat zij geen claims maken over subjectieve ervaring in het model, en framen de resultaten strikt in computationele termen met betrekking tot de differentiële verwerking van structureel verschillende prompts.