When Self-Reference Fails to Close: Matrix-Level Dynamics in Large Language Models

Titel: Wanneer Zelfreferentie Faalt om te Sluiten: Matrix-niveau Dynamiek in Grote Taalmodellen

1. Het Probleem

Grote Taalmodellen (LLMs) worstelen bekend met zelfreferentiële prompts, zoals de leugenaarsparadox ("Deze zin is onwaar"). Eerdere studies hebben zich gericht op vocabulaire, activatiepatronen of gedragsniveaus, maar het is onduidelijk wat er op het fundamentele niveau van de lineaire algebra binnen de transformer-lagen gebeurt.

De centrale vraag is: Waarom en hoe faalt een model intern wanneer het geconfronteerd wordt met een zin die geen consistente waarheidswaarde kan toekennen binnen de beperkte diepte van het netwerk? De auteurs onderzoeken of zelfreferentie op zich destabiliserend is, of dat er een specifiek type van zelfreferentie is dat de interne matrixdynamiek verstoort.

2. Methodologie

De auteurs hebben een uitgebreid experimenteel raamwerk ontworpen om de interne dynamiek van LLMs te analyseren:

• Modellen: Vier instruction-tuned modellen uit drie architectuurfamilies:
  • Qwen3-VL-8B (8B parameters, GQA + QK-norm)
  • Llama-3.2-11B (11B parameters, Vision-Language)
  • Llama-3.3-70B (70B parameters, 80 lagen)
  • Gemma-2-9B (9B parameters, interleaved local/global attention)
• Dataset: 300 prompts georganiseerd in een hiërarchie van 14 niveaus, variërend van feitelijke controles tot complexe zelfreferentie.
  • Temperatuur: Getest bij $T \in \{0.0, 0.3, 0.7\}$.
  • Groepering (Clusters): Prompts werden ingedeeld in vier clusters:
    • C1: Stabiele niet-zelfreferentiële prompts (controle).
    • C2: Stabiele zelfreferentiële prompts (gebaseerd op feiten, bijv. "Deze zin heeft 8 woorden").
    • C3: Oplosbare harde redenering (complex maar met een consistent antwoord).
    • C4: Niet-sluitende waarheidsrecursie (NCTR): Paradoxen, Gödel-achtige onbeslisbaarheid, wederzijdse cyclische referenties en oneindige regressie.
• Metrieken: Per prompt werden 106 scalare metrieken gemeten over alle lagen, waaronder:
  • Attention eigenspectra en effectieve rang (effective rank).
  • Singular value trajectories (SVD).
  • Waarheids-delta lagenprofielen (truth-delta).
  • Mortaliteitscontractie-ratio's en autoregressieve matrixprobes.
• Statistische Analyse: Gebruik van Bonferroni-correctie en Benjamini-Hochberg FDR (False Discovery Rate) voor significantie. Effectgroottes werden gemeten met Cohen's $d$.

3. Kernbijdragen

1. De NCTR-hypothese: De auteurs introduceren het concept Non-Closing Truth Recursion (NCTR). Ze beweren dat zelfreferentie op zich niet destabiliserend is; het is specifiek de onoplosbaarheid van de waarheidswaarde binnen de eindige diepte van het model die instabiliteit veroorzaakt.
2. Theoretisch Kader: Ze verbinden de waargenomen dynamiek met drie klassieke, onbeslisbare problemen in de matrix-semigruptheorie:
   • Mortaliteit: Of een eindig product van matrices de nulmatrix wordt.
   • Skolem-probleem: Of een lineaire recurrente rij ooit nul raakt.
   • Gemeenschappelijke Spectrale Straal (JSR): Of de spectrale straal $\leq 1$ is.
     De hypothese stelt dat NCTR-prompts het model dwingen naar dynamische regimes waar deze onbeslisbare problemen zich concentreren.
3. Uitgebreide Metriekenset: Een theorie-gedreven suite van 106 matrix-niveau metrieken, ontworpen om deze specifieke dynamiek te vangen, in plaats van post-hoc geselecteerde statistieken.
4. Causaal Bewijs: Door middel van activatie-patching (activation patching) en minimale paren-ablatie ("Deze zin" vs. "Die zin") wordt causaal bewijs geleverd dat de representatieve toestand bijdraagt aan tegenstrijdige output.

4. Belangrijkste Resultaten

• Zelfreferentie is niet per se instabiel: Stabiele zelfreferentie (C2) is bijna even stabiel als feitelijke controles (C1) op cruciale metrieken. Instabiliteit concentreert zich uitsluitend in NCTR-prompts (C4).
• Attention Effectieve Rang (Attention Effective Rank): Dit is de sterkste indicator. NCTR-prompts veroorzaken een anomalieus verhoogde effectieve rang, wat wijst op een reorganisatie van de attention met globale dispersie in plaats van simpele concentratie.
  • Cohen's $d$ waarden voor NCTR vs. stabiele zelfreferentie: $3.14$ (attention effective rank) tot $3.52$ (variance kurtosis) in het 70B model.
  • Gemma 9B toonde het grootste effect ($d = 4.20$).
• Significantie: Van de 397 metriek-modelcombinaties waren er 281 significant ($q < 0.05$) in het onderscheiden van NCTR van stabiele zelfreferentie; 198 hiervan hadden een groot effect ($|d| > 0.8$).
• Per-Lagen Analyse: SVD-decompositie bevestigt dat de verstoring op elke bemonsterde laag aanwezig is ($d > +1.0$), wat aggregation artifacts uitsluit. Het effect piekt vaak in de middelste lagen.
• Classificatie: Een logistische classifier, getraind op de 106 matrix-metrieken, bereikte een 5-voudig gekruisvalideerde AUC van 0.81–0.90 in het onderscheiden van NCTR van andere prompts.
• Tegenstrijdige Output: NCTR-prompts leiden tot een significant verhoogd percentage tegenstrijdige output (co-occurrentie van bevestigende en ontkennende markers) met een toename van +34 tot +56 procentpunten vergeleken met controles. Er is een significante correlatie ($\rho \approx 0.34–0.44$) tussen de attention-rang-disruptie en tegenstrijdige output.
• Architectuurafhankelijkheid: Hoewel de kernsignatuur (verhoogde attention-rang) architectuur-onafhankelijk is, vertonen specifieke metrieken (zoals variatie-kurtosis) omgekeerde tekens afhankelijk van de architectuur (bijv. Qwen vs. Llama), wat suggereert dat de manier van verstoring afhangt van specifieke kenmerken zoals QK-normalisatie.

5. Betekenis en Conclusie

Dit paper levert een fundamenteel inzicht in de interne werking van LLMs bij het verwerken van logische paradoxen. De belangrijkste bevinding is dat niet zelfreferentie, maar de onmogelijkheid om een consistent antwoord te vinden binnen de beperkte rekendiepte, leidt tot een specifieke matrixdynamiek die lijkt op de randvoorwaarden van onbeslisbare wiskundige problemen.

De studie suggereert dat transformer-modellen, wanneer ze geconfronteerd worden met NCTR, vast komen te zitten in een "near-critical" dynamisch regime met hoge effectieve rang en oscillaties, wat resulteert in onbetrouwbare en tegenstrijdige output. Dit biedt een theoretisch kader om te begrijpen waarom modellen falen bij introspectieve taken en biedt richtlijnen voor het ontwikkelen van robuustere modellen die beter kunnen omgaan met zelfreferentie en logische consistentie. De bevindingen zijn niet alleen relevant voor het begrijpen van hallucinaties, maar ook voor de fundamentele beperkingen van eindige-depte neurale netwerken in het modelleren van waarheid.