🤖 AI

Entangled by Design: Spurious Intra-Variable Signal Routing in Tabular In-Context Learners

Dit artikel onthult dat in-context learners voor tabeldata onvermijdelijk voorspellingen leiden via spuriële signalen die ingebed zijn in samengestelde kenmerken in plaats van ware causale signalen, een falen dat verergert met grotere contexten en modelexpressiviteit maar effectief kan worden gemitigeerd door omgeving-gestratificeerde contextconstructie en S-swap augmentatie.

Oorspronkelijke auteurs: Athanasios Vlontzos, Giorgos Papanastasiou, Bernhard Kainz, Sotirios Tsaftaris

Gepubliceerd 2026-07-29

📖 8 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Athanasios Vlontzos, Giorgos Papanastasiou, Bernhard Kainz, Sotirios Tsaftaris

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een robot probeert te leren hoe hij het weer kan voorspellen. Je laat de robot duizend foto's zien van zonnige dagen, en in elke foto is de lucht blauw. De robot leert een simpele regel: "Blauwe lucht betekent zon." Maar hier komt de crux: in jouw trainingsfoto's is de lucht altijd blauw omdat je alleen foto's hebt gemaakt tijdens de dag. Je hebt de robot nooit een foto van een bewolkte nacht laten zien. De robot heeft niet geleerd dat "zon" zorgt voor een "blauwe lucht"; hij heeft alleen geleerd dat "blauw" en "zon" toevallig samen voorkomen. Als je de robot later een foto laat zien van een blauwe lucht 's nachts (wat onmogelijk is, maar laten we zeggen dat de robot een blauw scherm ziet), zou hij in de war kunnen raken. Dit is de wereld van Machine Learning, specifiek een slimme truc genaamd In-Context Learning. In plaats van de robot telkens helemaal opnieuw te trainen, geef je hem vlak voordat hij een gokje waagt een paar voorbeelden, en hij begrijpt het patroon ter plekke. Het is alsof je een detective een paar aanwijzingen geeft en zegt: "Los deze zaak op," zonder ooit het brein van de detective te veranderen. Maar wat als die aanwijzingen misleidend zijn? Wat als de aanwijzingen wijzen naar een verdachte die onschuldig is, simpelweg omdat diegene in elke foto die je de detective liet zien, toevallig aanwezig was bij de plaats van het misdrijf?

Dit artikel onderzoekt een verraderlijke valstrik die deze slimme, flexibele robots kan misleiden wanneer ze worden gebruikt voor zaken zoals het voorspellen van het herstel van patiënten in ziekenhuizen. De onderzoekers ontdekten dat wanneer een robot een mix ziet van "echte" informatie (zoals de werkelijke gezondheid van een patiënt) en "nep" informatie (zoals een foutje in de specifieke apparatuur van een ziekenhuis), hij vaak wordt misleid. De robot leert te vertrouwen op de fout omdat de fout in de trainingsdata perfect overeenkwam met de uitkomst. Het artikel bewijst dat het simpelweg geven van meer voorbeelden aan de robot dit niet oplost; sterker nog, het kan de robot zelfs nog koppiger maken in zijn fout. Echter, de auteurs ontdekten ook een slimme, lichte truc om deze betovering te verbreken, waardoor de robot de fout kan negeren en zich kan concentreren op de echte gezondheidssignalen, zelfs zonder precies te weten hoe de fout eruitziet.

De Detective en de Kapotte Thermometer

Laten we in het verhaal duiken. Stel je een ziekenhuis voor waar een nieuw AI-systeem is aangenomen om te voorspellen hoe snel patiënten zullen herstellen. Het systeem krijgt gegevens te zien van één specifiek ziekenhuis. In dit ziekenhuis is er een verborgen probleem: de thermometers zijn licht beschadigd. Ze geven altijd 2 graden hoger aan dan ze zouden moeten doen. Maar hier komt de twist: de patiënten die de "hoge koorts"-meting op deze kapotte thermometers kregen, waren ook degenen die snel herstelden. Waarom? Omdat de kapotte thermometers alleen in de VIP-afdeling worden gebruikt, en VIP-patiënten krijgen betere zorg en herstellen sneller.

De AI, een super slimme patroonherkenner, kijkt naar de gegevens en zegt: "Aha! Hoge temperatuurmetingen betekenen snel herstel!" De AI weet niets van de VIP-afdeling of de kapotte thermometer. Hij ziet alleen dat Temperatuur (S) en Herstel (Y) in de gegeven data beste vrienden zijn. Dus, wanneer de AI een voorspelling doet, stuurt hij zijn beslissing via de temperatuurmeting. Hij denkt: "Ik wed op de temperatuur!"

Stel je nu voor dat deze AI naar een nieuw ziekenhuis wordt gestuurd. Dit nieuwe ziekenhuis heeft gloednieuwe, perfecte thermometers. De VIP-afdeling is verdwenen. De link tussen "hoge temperatuur" en "snel herstel" is verbroken. Maar de AI gebruikt nog steeds zijn oude regel: "Hoge temperatuur = snel herstel." Omdat de nieuwe thermometers accuraat zijn, ziet de AI normale temperaturen voor zieke patiënten en voorspelt dat ze langzaam zullen herstellen, of hij ziet hoge temperaturen voor gezonde patiënten en voorspelt dat ze snel zullen herstellen. Hij faalt volledig, en hij faalt geruisloos, omdat hij geen enkele manier heeft om te weten dat hij door de kapotte thermometer is misleid.

Het artikel noemt dit "Spurious Routing" (schijnroutes). De AI "routeert" zijn beslissing via een vals signaal (de kapotte thermometer) in plaats van het echte signaal (de werkelijke gezondheid van de patiënt).

De Valstrik van Samengestelde Signalen

De onderzoekers realiseerden zich dat dit niet alleen over kapotte thermometers gaat. Het gebeurt telkens wanneer één stukje data een "bundel" is van twee dingen: het Echte Signaal (de werkelijke gezondheid van de patiënt) en het Schijnbare Signaal (de fout in de apparatuur). In de wiskundige wereld noemen ze dit een "composiet representatie".

Het artikel stelt een grote vraag: Kunnen we de AI leren om de fout te negeren? De auteurs testten twee soorten AI-detectives:

De Lineaire Detective: Een eenvoudige, op regels gebaseerde AI die basiswiskunde doet (zoals een zeer slimme spreadsheet).
TabPFN: Een super complexe, "state-of-the-art" AI die lijkt op een genie-detective die elk medisch boek ter wereld heeft gelezen.

Ze voerden duizenden simulaties uit waarbij ze precies controleerden hoeveel van de "fout" (S) gemengd was met de "echte gezondheid" (C). Ze ontdekten iets verrassends en een beetje eng: De AI kan dit niet uit zichzelf oplossen.

Zelfs als je de AI steeds meer voorbeelden geeft uit het eerste ziekenhuis, wordt hij niet slimmer over de fout. Sterker nog, het artikel laat zien dat het geven van meer context (meer voorbeelden) de AI juist méér vastberaden maakt in het foute antwoord. Als de fout in de trainingsdata enigszins nuttig was, zal de AI hier dubbel op inzetten. Hoe meer voorbeelden je hem laat zien, hoe meer hij gelooft dat de fout de waarheid is.

De auteurs hebben wiskundig bewezen dat zolang de fout en de uitkomst aan elkaar gekoppeld zijn in de trainingsdata, de AI de fout moet gebruiken. Het is geen bug; het is een kenmerk van hoe deze modellen werken. Ze noemen dit "onvermijdelijke spurious routing".

De Magische Truk: De "S-Swap"

Dus, als de AI gedoemd is om misleid te worden, is er dan nog hoop? De auteurs zeggen van wel, en ze vonden een oplossing die verrassend eenvoudig is. Ze noemen het "S-swap augmentatie."

Stel je weer voor dat je de detective bent. Je hebt een stapel dossiers. In elk dossier staat een temperatuurmeting en een hersteltijd. De dossiers komen allemaal uit de VIP-afdeling met de kapotte thermometers.
De "S-swap" truc is als volgt: Je neemt de temperatuurmeting uit Dossier A en wisselt die uit met de temperatuurmeting uit Dossier B, maar je behoudt de hersteltijd hetzelfde.

Dossier A (Oorspronkelijk): "Kapotte thermometer zegt 40°C, Patiënt herstelde snel."
Dossier B (Oorspronkelijk): "Kapotte thermometer zegt 37°C, Patiënt herstelde traag."

Je wisselt de temperaturen:

Dossier A (Gewijzigd): "Kapotte thermometer zegt 37°C, Patiënt herstelde snel."
Dossier B (Gewijzigd): "Kapotte thermometer zegt 40°C, Patiënt herstelde traag."

Kijk nu naar het patroon. De temperatuur voorspelt het herstel niet langer! De hoge temperatuur is nu gekoppeld aan een traag herstel, en de lage temperatuur aan een snel herstel. De link is verbroken. De AI kijkt naar deze nieuwe, gewisselde data en realiseert zich: "Wacht eens even. De temperatuur doet er helemaal niet toe! Het is gewoon ruis."

Het artikel laat zien dat deze truc ongelooflijk goed werkt.

Voor de eenvoudige Lineaire Detective verminderde het de afhankelijkheid van de fout met 74%.
Voor de superintelligente TabPFN verminderde het de afhankelijkheid met een enorme 98,8%.

Nog beter: de AI werd niet alleen "in de war gebracht" of "gaf het op". Hij begon zelfs aandacht te besteden aan het echte gezondheidssignaal. Het artikel vond dat de gevoeligheid van de AI voor de echte oorzaak met 8,4 keer toenam. Hij stopte niet met leren; hij leerde alleen het juiste.

Waarom dit ertoe doet

De onderzoekers testten dit ook op echte wereldgegevens, met behulp van een dataset van menselijke pancreascellen uit verschillende laboratoria. Hoewel ze niet precies wisten welke delen van de data de "fout" waren en welke de "echte biologie", konden ze de fout inschatten door te kijken naar hoe de data varieerde tussen de laboratoria. Toen ze de S-swap truc toepasten, daalde de afhankelijkheid van de AI van de laboratoriumspecifieke fouten met bijna 89%.

Het artikel concludeert dat we deze krachtige AI-modellen niet hoeven te herbouwen of complexe nieuwe regels hoeven aan te leren. We hoeven alleen maar slimmer te zijn over de voorbeelden die we ze laten zien. Door de "foutgevoelige" delen van de data te verwisselen voordat de AI een gok doet, kunnen we de AI erin laten slagen de valse signalen te negeren en zich op de waarheid te concentreren.

Het is een herinnering dat in de wereld van AI, de slimste zet soms niet is om de robot méér data te geven, maar om de data die je al hebt te herschikken, zodat de robot de waarheid niet kan ontwijken. Het artikel bewijst dat hoewel deze modellen krachtig zijn, ze ook kwetsbaar zijn voor "spurious routing", maar met een beetje slimme datamenging kunnen we ze weer op het juiste pad leiden.

Technische Samenvatting: Entangled by Design: Spurious Intra-Variable Signal Routing in Tabular In-Context Learners

Probleemstelling

Het artikel behandelt een kritieke foutmodus in In-Context Learning (ICL) voor tabelgegevens, specifiek wanneer modellen worden ingezet in heterogene omgevingen (bijv. verschillende ziekenhuizen of experimentele batches). De kern van het probleem is spurious intra-variable signal routing (schijnbaar intra-variabele signaalroutering).

In veel realistische scenario's is een geobserveerde featurevector $X$ een composiet van een echt causaal signaal $C$ (bijv. de gezondheid van een patiënt) en een schijnbaar signaal $S$ (bijv. apparatuur-artefacten of batch-effecten), die vaak verstrengeld zijn binnen dezelfde feature-ruimte of binnen afzonderlijke subruimtes: $X = [C; \alpha S; \eta]$ . Binnen een enkele omgeving kan een niet-geobserveerde confounder $U$ (bijv. patiëntdemografie) zowel het schijnbare signaal $S$ als de uitkomst $Y$ aansturen, wat leidt tot een niet-nul in-context correlatie $\text{Corr}(S, Y) \neq 0$ .

Standaard ICL-modellen, zoals TabPFN of lineaire ridge-estimators, observeren enkel de contextvoorbeelden. Ze leren rationeel om voorspellingen te routeren via $S$ , omdat $S$ voorspellend is binnen de context, ook al is $S$ niet-causaal. Wanneer het model wordt ingezet in een nieuwe omgeving waar de relatie tussen $S$ en $Y$ verandert (door andere apparatuur of locatie-specifieke factoren), faalt het model stilzwijgend. Dit verschilt van traditionele cross-variable spurious correlation problemen, omdat de causale en schijnbare signalen vaak verstrengeld zijn binnen een enkele geobserveerde featurevector of afzonderlijke subruimtes van een composiet representatie, waardoor ze via standaard in-context statistieken alleen niet te onderscheiden zijn.

Methodologie

Theoretisch Kader

De auteurs formaliseren de setting met behulp van een Structural Causal Model (SCM) waarbij:

Causaal Signaal ( $C$ ): Invariant over omgevingen heen.
Schijnbaar Signaal ( $S$ ): Gecorreleerd met $Y$ enkel via een gedeelde confounder $U$ binnen een omgeving.
Composiet Observatie: $X = [C; \alpha S; \eta]$ , waarbij $\alpha$ de sterkte van de verstrengeling regelt.

Het artikel introduceert de Causal Sensitivity Ratio (CSR) als een diagnostische metriek om het routeringsgedrag te kwantificeren:
$\text{CSR}(w) := \frac{\mathbb{E}[|w_S \alpha \Delta S|]}{\mathbb{E}[|w_C \Delta C|]}$
waarbij $\Delta S$ en $\Delta C$ perturbaties (swaps) vertegenwoordigen van respectievelijk de schijnbare en causale componenten:

$\text{CSR} \approx 0$ : Het model routeert via het causale signaal.
$\text{CSR} > 1$ : Het model is gevoeliger voor het schijnbare signaal dan voor het causale signaal (foutregime).

Theoretische Analyse

De auteurs leiden een gesloten vorm karakterisering af voor de populatie CSR onder ridge ICL (lineaire in-context learning):
$\text{CSR}_{\text{pop}} = \underbrace{\frac{\alpha^2}{\alpha^2 + \lambda}}_{\text{verstrengeling}} \cdot \underbrace{\frac{\rho_S}{\rho_C}}_{\text{signaalratio}} \cdot \underbrace{(1 + \lambda)\kappa(\delta)}_{\text{protocolconstante}}$
Belangrijke theoretische bevindingen zijn:

Onvermijdelijkheid: Onder in-context confounding ( $\rho_S \neq 0$ ) is spurious routing onvermijdelijk voor elke regularisatiestrengte $\lambda > 0$ .
Contextgrootte: Grotere contextgroottes lossen het probleem niet op; in high-spurious regimes kunnen ze de toewijding aan het schijnbare signaal met wel $1.74\times$ versterken.
Identificeerbaarheid: Routing is onidentificeerbaar als $C$ en $S$ een enkele scalaire coördinaat delen ( $D=1$ ); afzonderlijke subruimtes zijn vereist voor diagnose.

Mitigatiestrategieën

Het artikel stelt twee lichtgewicht, model-agnostische interventies voor die opereren op het niveau van de contextconstructie, waarbij enkel zwakke omgeving-labels nodig zijn (bijv. batch ID's) en geen kennis van de causale partitie:

Environment-Stratified Context Construction: Het samplen van contextvoorbeelden uit verschillende omgevingen om de distributies van $S$ te mengen terwijl de $Y$ -niveaus constant blijven, wat de in-context $\text{Corr}(S, Y)$ vermindert.
S-swap Augmentatie: Voor elk contextpunt $(X_i, Y_i)$ wordt een gekoppelde kopie $(\tilde{X}_i, Y_i)$ toegevoegd waarbij de schijnbare dimensies van $X_i$ worden vervangen door die van een andere omgeving. Dit signaleert aan het model op punt-niveau dat $S$ niet voorspellend is voor $Y$ .

Belangrijkste Resultaten

Empirische Validatie

De auteurs hebben hun theorie gevalideerd op zowel lineaire ICL (ridge regressie) als TabPFN (een state-of-the-art pretrained tabular transformer) met behulp van een gecontroleerd structureel causaal model.

Correlatie met Theorie: De empirische CSR correleert sterk met de theoretische voorspeller $\hat{\rho}_S / \hat{\rho}_C$ ( $r=0.997$ voor lineaire ICL, $r=0.979$ voor TabPFN).
Versterkingseffecten:
- Het vergroten van de contextgrootte ( $n$ ) van 16 naar 512 versterkte de spurious routing in high-spurious regimes met $1.74\times$ .
- Meer expressieve modellen (TabPFN) vertoonden een grotere kwetsbaarheid dan lineaire ICL in high-entanglement hoeken (een verschil van $+2.22$ in CSR), hoewel ze responsiever waren op mitigaties.
Robuustheid: De theoretische voorspellingen hielden stand, zelfs met subruimte overlap (tot $40^\circ$ rotatie), waarbij de correlatie slechts licht daalde ( $r \geq 0.93$ ).

Prestaties van Mitigatie

Lineaire ICL: S-swap verminderde de CSR met 74% en verbeterde de Out-of-Distribution (OOD) RMSE met 34.2%.
TabPFN: S-swap verminderde de CSR met 98.8% (van 5.777 naar 0.067). Cruciaal is dat het model niet agnostisch werd; het herrouteerde via het causale signaal, wat de causale sensitiviteit met 8.4 $\times$ verhoogde.
Real-World Validatie: Op de scIB pancreas dataset (single-cell genomics) verminderde S-swap de CSR met 88.9% met behulp van enkel geschatte schijnbare subruimtes afgeleid van de batchstructuur, wat de toepasbaarheid bevestigt zonder grondwaarheid causale labels.

Betekenis en Claims

Het artikel claimt een specifieke foutmodus van in-context learning te hebben geïdentificeerd en geformaliseerd die onderscheidend is van cross-variable spurious correlations. De primaire bijdragen zijn:

Theoretisch Bewijs van Onmogelijkheid: Het aantonen dat standaard regularisatie spurious routing niet kan elimineren in composiet representaties wanneer in-context confounding aanwezig is.
Diagnostische Metriek: De introductie van de CSR als een robuuste, perturbatie-gebaseerde diagnostiek die routing gedrag kwantificeert, zelfs wanneer causale partities latent zijn.
Model-Agnostische Oplossing: Het voorstellen van S-swap augmentatie, een interventie op context-niveau die ICL-modellen effectief dwingt om schijnbare signalen te negeren en te vertrouwen op causale signalen, zonder dat hiervoor model-retraining, architecturale wijzigingen of toegang tot de causale partitie vereist is.
Paradoxale Expressiviteit: Het benadrukken dat hoewel meer expressieve modellen (zoals TabPFN) kwetsbaarder zijn voor spurious routing in high-spurious regimes, hun capaciteit hen ook in staat stelt om dramatischer te reageren op invariantie-signalen (zoals S-swap), wat leidt tot een superieur herstel vergeleken met lineaire baselines.

De auteurs positioneren dit werk als een noodzakelijke correctie voor de inzet van ICL in wetenschappelijke en biomedische domeinen, waar datatheterogeniteit de norm is en stille fouten door dataset shift een kritiek risico vormen.