Technische Samenvatting: Causale Tongenband

Probleemstelling

Het artikel behandelt een kritieke mismatch tussen de interne causale redeneercapaciteiten van Large Language Models (LLM's) en hun expliciete tekstuele output. Waar standaard benchmarks causaal redeneren evalueren op basis van de nauwkeurigheid van de "Ja/Nee"-antwoorden van een model, onderzoekt dit werk of LLM's de juiste causale richting in hun verborgen staten bezitten, zelfs wanneer hun verbaal output dit niet tot uitdrukking brengt. De auteurs richten zich specifiek op anti-sens causale queries (bijvoorbeeld prompts die voorschrijven dat "roken longkanker voorkomt"), waarbij modellen vaak terugvallen op commonsense-priors in hun output, ondanks bewijs in de prompt dat het tegenovergestelde suggereert.

Het kernprobleem is dat een enkele nauwkeurigheidsmeting op output-only benchmarks twee verschillende faalmodi samenvoegt:

1. Causale Papegaaien: Het model mist het interne causale signaal volledig en vertrouwt op oppervlakteheuristieken.
2. Causale Tongenband: Het model codeert de door bewijs ondersteunde causale richting intern, maar faalt om deze te verwoorden in het standaard outputformaat.

Methodologie

De auteurs stellen een meetprotocol voor dat twee uitleeskanaalen vergelijkt vanuit dezelfde enkele forward pass van een bevroren, instructie-gefine-tuned transformer-decoder:

1. Interne Uitlees (Probe): Een lineaire probe (bevroren logistische regressie) of een counterfactuele subruimterichting ($V_{cs}$) afgeleid van verborgen-staatactivaties ($h^{(\ell)}$) bij de laatste prompt-token.
2. Externe Output: De eigen volgende-token-kansen ($lm\_head$) van het model voor het standaard "Ja/Nee"-antwoord.

Experimentele Opstelling

• Datasets: Het onderzoek maakt gebruik van CLADDER (Jin et al., 2023) en CounterBench (Chen et al., 2025), met focus op anti-sens (anti-CS) items waarbij het bewijs in de prompt in strijd is met real-world priors.
• Counterfactuele Minimale Paren: Voor elke prompt $x_i$ wordt een counterfactueel paar $x_i^{cf}$ gegenereerd door causale woorden te verwisselen (bijvoorbeeld "veroorzaakt" vs. "voorkomt") om het gouden antwoord om te draaien, terwijl de oppervlaktevorm identiek blijft. Het verschil in verborgen staten ($\Delta h$) definieert het causale richtingssignaal.
• Modellen: Het protocol wordt toegepast op acht instructie-gefine-tuned modellen, waaronder Qwen2.5 (0.5B tot 72B), Mistral-7B en DeepSeek-7B.
• Controles: Het onderzoek hanteert strenge controles om oppervlaktewoord-memorizatie uit te sluiten, waaronder:
  • Sham Subruimten: Probes getraind op nonsens-entiteit-prompts.
  • Random Richtingcontroles: Haar-random vectoren van dezelfde rang.
  • Causale Woordvariatie: Verwijderen of wijzigen van causale vocabulaire terwijl de structuur behouden blijft.
  • Interfacevariaties: Testen van verschillende antwoordformaten (Ja/Nee, A/B geforceerde keuze, Waar/Niet waar, Chinees, etc.).

Belangrijkste Bijdragen

Het artikel introduceert het concept Causale Tongenband, gedefinieerd als het empirische fenomeen waarbij:
$$\Delta = Acc_{probe} - Acc_{out} \approx +0.5$$
Op anti-sens items herwint de lineaire probe het door bewijs ondersteunde antwoord met hoge nauwkeurigheid ($\approx 0.97$), terwijl de gesproken Ja/Nee-output terugvalt naar de commonsense-prior ($\approx 0.5$).

De auteurs formaliseren een 2×2-raamwerk voor causale benchmark-falen:

• (a) Gecoördineerd Correct: Zowel probe als output zijn correct.
• (b) Causale Tongenband (Dit Werk): Probe is correct; output is fout (de focus van het artikel).
• (c) Causale Papegaai: Probe vindt niets; output is correct door oppervlakteheuristiek.
• (d) Echte Falen: Beide zijn fout.

Empirische Resultaten

1. Schaalbaarheid van de Kloof: De kloof ($\Delta \approx +0.5$) blijft bestaan over modelgroottes van 0.5B tot 72B parameters. Naarmate de modelgrootte toeneemt, stijgt de interne probe-nauwkeurigheid (bereikt 1.0 op 72B), terwijl de outputnauwkeurigheid stagneert rond het toevalsniveau (0.35–0.53).
2. Validiteit van het Interne Signaal:
   • De probe-richting is niet willekeurig; deze volgt het causale bewijs, niet alleen oppervlaktewoorden.
   • Lesioning: Het projecteren van de causale richting ($V_{cs}$) uit de verborgen staat doet het interne vermogen van het model om counterfactuele paren te onderscheiden instorten (KL-daling van -96,3%), wat bevestigt dat de richting functioneel wordt gebruikt voor interne vergelijking.
   • Activering Patching: Het vervangen van de verborgen staat van een fout anti-CS-item door die van een overeenkomstig commonsense-item draait de outputnauwkeurigheid om van 0 naar 0.57, wat aantoont dat de interne staat voldoende informatie bevat om de output te corrigeren, hoewel een eenvoudige scalair wisseling van de richtingsvector ontoereikend is.
3. Interface-afhankelijkheid: Het falen is gelokaliseerd tot de verbaal antwoordinterface.
   • Wanneer het outputformaat wordt gewijzigd naar een gestructureerde A/B geforceerde keuze (bijvoorbeeld "Wat is waarschijnlijker: A. c veroorzaakt e, of B. c niet?"), springt de nauwkeurigheid naar bijna perfect (1.0), terwijl het standaard Ja/Nee-formaat op het toevalsniveau blijft.
   • De kloof blijft bestaan over verschillende oppervlaktevormen (Ja/Nee, Waar/Niet waar, Chinees "Shi/Fou"), wat aangeeft dat het probleem niet specifiek is voor de "Ja/Nee"-tokens, maar eerder de commit-stap in de verbaal interface.
4. Entropie-analyse: Het model vertoont lage entropie (hoge zekerheid) op het fout antwoord in het Ja/Nee-formaat, wat wijst op een "zeker fout commit" gedreven door commonsense-priors, terwijl het A/B-formaat het interne signaal toelaat om zich uit te drukken met bijna nul entropie.

Betekenis en Claims

Het artikel beweert dat sweepende conclusies over of LLM's causaal redeneren kunnen uitvoeren op basis van één enkel outputnauwkeurigheidsgetal, gebrekkig zijn.

• Herwaardering van Benchmarks: Een "fout" oordeel van een benchmark betekent niet noodzakelijk dat het model causale kennis mist; het kan simpelweg betekenen dat het model die kennis niet kan uitdrukken via de specifieke verbaal interface die wordt gebruikt. Omgekeerd garandeert een "correct" oordeel niet dat het model het causale mechanisme heeft begrepen (het zou een Causale Papegaai kunnen zijn).
• Aard van het Falen: De auteurs karakteriseren Causale Tongenband als een verbaal interface-falen, niet als een gebrek aan interne representatie. Het model "weet" het antwoord in zijn verborgen staten, maar is "vastgebonden" in zijn vermogen om het te zeggen wanneer het wordt gedwongen zich te committeren aan een verbaal formaat met een bias naar commonsense.
• Beperkingen: De auteurs stellen expliciet dat "codering" in deze context verwijst naar de herwinbaarheid van een lineaire richting in de verborgen staat, niet naar menselijk begrijpen of een volledig causaal circuit. De interne richting is causaal voldoende om de output in >50% van de gevallen te corrigeren, maar niet in alle gevallen, en de herwonnen richting is gevoelig voor de formulering van templates.

Kortom, het artikel pleit voor een dual-kanaal evaluatie van LLM's (interne staat + externe output) om onderscheid te maken tussen echte redeneerfouten en expressieve beperkingen, en waarschuwt voor voorzichtigheid bij het interpreteren van output-only causale benchmarks.