🤖 AI

From Training to Deployment: Post-Hoc Causal Feature Identification via Sensitivity Ratios

Dit artikel introduceert de Normalised Sensitivity Ratio (NSR), een post-hoc, model-agnostische diagnostiek die causale versus spurieuze kenmerken in getrainde modellen identificeert door gebruik te maken van de stabiliteit van sensitiviteit over gestructureerde omgevingsverschuivingen, waarbij exacte identificatie onder specifieke condities wordt bereikt en een hoge nauwkeurigheid wordt aangetoond op zowel synthetische als real-world datasets.

Oorspronkelijke auteurs: Athanasios Vlontzos, Giorgos Papanastasiou, Bernhard Kainz, Sotirios Tsaftaris

Gepubliceerd 2026-07-29

📖 6 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Athanasios Vlontzos, Giorgos Papanastasiou, Bernhard Kainz, Sotirios Tsaftaris

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een detective bent die probeert uit te zoeken waarom een magische kristallen bol de toekomst voorspelt. Je weet dat de kristallen bol werkt, maar je weet niet hoe. Heeft ze de echte natuurwetten geleerd, of heeft ze gewoon geluk gehad door op te merken dat de lucht op dinsdagen altijd blauw is? Dit is de wereld van machine learning, waar computers leren om voorspellingen te doen door patronen in gegevens te vinden. Soms vinden ze de juiste patronen (zoals "regen maakt gras nat"), maar vaak vinden ze "spuriouse" patronen—toevalligheden die echt lijken, maar breken zodra de situatie verandert (zoals "dinsdagen veroorzaken regen").

Het grote probleem is dat zodra een computermodel is getraind, het als een black box is. We kunnen niet gemakkelijk naar binnen kijken om te zien of het model vertrouwt op de waarheid of gewoon op een gelukkige gok. Eerdere hulpmiddelen om dit op te lossen vereisten dat we terug naar de tekentafel gingen en het model vanaf nul opnieuw trainden, wat traag en duur is. Dit artikel introduceert een nieuwe manier om in een voltooid model te kijken zonder ook maar iets aan de manier waarop het is gebouwd te veranderen. Het is alsof je een speciale zaklamp hebt die je, door simpelweg te kijken naar hoe het model reageert op verschillende kamers, kan vertellen of het naar de echte meubels kijkt of alleen naar de schaduwen op de muur.

De Nieuwe Zaklamp van de Detective: NSR

De auteurs van dit artikel, Athanasios Vlontzos en zijn team, hebben een hulpmiddel uitgevonden genaamd de Normalised Sensitivity Ratio (NSR). Denk aan een getraind AI-model als een chef die een soeprecept tot in de perfectie heeft beheerst. De chef weet dat als hij een snufje zout (een "causaal" ingrediënt) toevoegt, de soep lekkerder smaakt, ongeacht waar hij kookt. Maar als de chef heeft geleerd dat "telkens wanneer het buiten regent, de soep zout smaakt" (een "spuriouse" correlatie), dan werkt die regel alleen in de keuken waar het regent. Als de chef naar een zonnige keuken verhuist, kan de soep verschrikkelijk smaken omdat de regen niet aanwezig is om de "ziltigheid" te triggeren.

De NSR-tool werkt door de chef te vragen de soep in verschillende keukens (omgevingen) te proeven.

De Causale Test: Als de chef zout toevoegt, verandert de smaak in elke keuken evenveel. De gevoeligheid is constant.
De Spuriouse Test: Als de chef vertrouwt op de "regen"-regel, verandert de smaak wild uiteen afhankelijk van of het in die specifieke keuken regent. De gevoeligheid verschuift.

De NSR meet deze "wobbel". Als de reactie van het model op een kenmerk stabiel is over verschillende omgevingen, zegt de NSR: "Dit is een echt, causaal kenmerk!" Als de reactie alle kanten op springt, zegt de NSR: "Dit is een spuriouse toevalligheid!"

Hoe de Magie Werkt (Zonder de Magie)

Het artikel bewijst dat als je ten minste drie verschillende omgevingen hebt (zoals drie verschillende ziekenhuizen of drie verschillende batches met gegevens) waar de "spuriouse" zaken (zoals ruis van apparatuur of het weer) veranderen, maar de "echte" oorzaken hetzelfde blijven, de NSR-tool de waarheid perfect van de leugens kan scheiden.

De auteurs hebben dit idee getest via een reeks tests:

Perfecte Detectie: In hun computer-simulaties, wanneer de omstandigheden juist waren—specifiek met ten minste 5 omgevingen en een verschuivingsmagnitude van 1 of groter—behaalde het hulpmiddel een perfecte score. Onder deze specifieke regimecondities identificeerde het elk enkel causaal kenmerk en elk spurious kenmerk met 100% nauwkeurigheid (een AUROC van 1.000). Het was alsof je een naald in een hooiberg vond zonder ooit de hooimassa aan te raken.
De "No-Go" Zones: Het artikel is zeer eerlijk over wanneer het hulpmiddel faalt. Als je slechts twee omgevingen hebt, wordt het hulpmiddel blind. Als de veranderingen in de omgevingen te symmetrisch zijn (zoals een perfect spiegelbeeld), raakt het hulpmiddel in de war. Ze ontdekten ook dat als de "verschuiving" tussen omgevingen klein is in verhouding tot de ruis, het hulpmiddel het niet kan zien. Het is als proberen een fluistering te horen in een orkaan; het signaal raakt verloren.
Real-World Test: Ze testten het op echte gegevens, specifweg een fietsverdelingsdataset van een stad. Ze wisten welke factoren (zoals temperatuur en tijdstip van de dag) er daadwerkelijk voor zorgden dat mensen fietsen huurden, en welke slechts toevalligheden waren. Zonder het model te hertrainen, identificeerde de NSR-tool correct 6 van de 8 ware causale factoren. Het presteerde veel beter dan andere standaardmethoden die alleen kijken naar de grootte van de getallen in het model.

Waarom Dit Er Toe Doet

Het meest opwindende deel van deze ontdekking is dat het werkt nadat het model al getraind is. Meestal, als je vermoedt dat een model vals speelt door spuriouse patronen te gebruiken, moet je het weggooien en opnieuw beginnen. Met NSR kun je gewoon het voltooide model nemen, de zaklamp erop schijnen en zeggen: "Ah, ik zie dat je je baseert op de dag van de week in plaats van op de werkelijke medische symptomen."

De auteurs laten zien dat deze methode een "post-hoc" diagnose is, wat betekent dat het een controle is die je een model kunt geven dat al in gebruik is. Het hoeft de interne code van het model niet te kennen, en het hoeft het trainingsproces niet aan te raken. Het kijkt alleen hoe het model zich gedraagt wanneer de wereld eromheen verandert.

De auteurs trekken echter ook een duidelijke grens. Dit hulpmiddel werkt het best wanneer de "echte" oorzaken (zoals biologie of fysica) stabiel blijven, en alleen de "ruis" (zoals verschillende machines of locaties) verandert. Als de echte oorzaken zelf van plek naar plek veranderen (zoals als de definitie van "ziekte" tussen ziekenhuizen verschilt), kan het hulpmiddel in de war raken en denken dat een echte oorzaak slechts een toevalligheid is. De auteurs benadrukken dat dit een beperking is, geen fout in het systeem.

Kortom, dit artikel geeft ons een nieuwe manier om AI te vertrouwen. Het biedt een wiskundige garantie dat als de wereld op een specifieke manier verschuift, we de leugenaars in de logica van het model kunnen opsporen. Het verandert de black box in een glazen box, waardoor we precies kunnen zien waar het model op vertrouwt, zodat we er zeker van kunnen zijn dat het niet gewoon een gok doet op basis van het weer.

Technische Samenvatting: Post-hoc Causale Kenmerkidentificatie via Sensitiviteitsratio's

Probleemstelling

Het artikel adresseert een kritieke kloof in de interpreteerbaarheid van machine learning: het bepalen welke kenmerken (features) een getraind model causaal versus spuriaal (schijnverband) gebruikt, zonder toegang te hebben tot het trainingsproces, de modelklasse of de onderliggende causale graaf.

Bestaande methoden voor causale kenmerkidentificatie, zoals Invariant Risk Minimization (IRM) en Invariant Causal Prediction (ICP), vereisen interventie tijdens de trainingsfase (bijv. het aanpassen van verliesfuncties of het uitvoeren van exhaustieve subset-zoekopdrachten). Bijgevolg kunnen zij modellen die al zijn uitgerold niet diagnosticeren. De auteurs richten zich op het gestructureerde verschuivingsregime (structured-shift regime), een scenario dat veel voorkomt in klinische multi-site data of multi-batch genomics, waarbij omgevingen verschillen in de primaire oorzaak van de gemiddelde waarden van spuriale kenmerken (bijv. apparatuur-offsets, batch-effecten), terwijl het causale mechanisme en de distributie van causale kenmerken stabiel blijven. In deze setting zal een model dat steunt op spuriale kenmerken een omgevingsafhankelijke sensitiviteit vertonen, terwijl een model dat steunt op causale kenmerken een constante sensitiviteit laat zien.

Methodologie: Genormaliseerde Sensitiviteitsratio (NSR)

De auteurs stellen de Genormaliseerde Sensitiviteitsratio (NSR) voor, een post-hoc, model-agnostische diagnostische metriek.

Kernconcept

NSR kwantificeert de stabiliteit van de sensitiviteit van een model voor een specif kenmerk over verschillende omgevingen heen.

Causale Sensitiviteitsratio (CSR): Voor een kenmerk $j$ en omgevingen $e$ en een referentie-omgeving $e_{ref}$ , meet de CSR de gemiddelde verschuiving in de output van het model wanneer kenmerk $j$ wordt vervangen door een trekking uit de marginale distributie van de referentie-omgeving, terwijl andere kenmerken constant worden gehouden.
Normalisatie: NSR is gedefinieerd als de gekwadrateerde coëfficiënt van variatie ( $CV^2$ ) van de CSR-waarden over omgevingen, genormaliseerd door het gemiddelde van de CSR.
$\text{NSR}_j(e_{ref}) := \frac{\text{Var}_{e \neq e_{ref}}[\text{CSR}_j(e, e_{ref})]}{(\mathbb{E}_{e \neq e_{ref}}[\text{CSR}_j(e, e_{ref})])^2}$

Belangrijke Eigenschappen

Gewichtsinvariantie: De normalisatie elimineert de geleerde modelgewichten ( $\hat{w}_j^2$ ). Dit zorgt ervoor dat spuriale kenmerken met kleine coëfficiënten (die mogelijk gemist worden door gewicht-gebaseerde analyse) nog steeds worden gedetecteerd als hun sensitiviteit varieert tussen omgevingen.
Diagnostisch Signaal: Onder het gestructureerde verschuivingsregime:
- Causale Kenmerken: Induceren een constante sensitiviteit over omgevingen $\implies \text{NSR}_j = 0$ .
- Spuriale Kenmerken: Induceren een sensitiviteit die de omgevingsverschuiving volgt $\implies \text{NSR}_j > 0$ .
Implementatie: NSR vereist alleen een getraind black-box model, omgeving-labels en gehouden data (held-out data). Het kan worden berekend met behulp van forward passes, SHAP-waarden of permutatie-belangrijkheid als drop-in estimators voor het sensitiviteitsignaal.

Belangrijkste Bijdragen

1. Exacte Identificatietheorema

Onder een lineair Structureel Causaal Model (SCM) in het gestructureerde verschuivingsregime met $K \ge 3$ niet-degeneratieve omgevingen, bereikt NSR exacte identificatie.

Theorema 1: Voor elke lineaire voorspeller met niet-nul gewichten geldt: $\text{NSR}_j = 0 \iff j$ is een causaal kenmerk.
Het bewijs toont aan dat het identificatiesignaal voortkomt uit de geometrie van de omgevingsverschuivingen, en niet uit de modelgewichten. Dit theoretische resultaat strekt zich empirisch uit naar niet-lineaire modellen.

2. Volledige Karakterisering van Foutmodi

Het artikel biedt precieze kwantitatieve criteria voor wanneer NSR faalt, waardoor gebruikers de geldigheid van het regime kunnen beoordelen:

Zwakke Verschuivingen: NSR stort in als $O(\epsilon^4)$ wanneer de verschuivingsgrootte $\epsilon$ klein is ten opzichte van de ruis binnen de omgeving.
Degeneratieve Geometrie: NSR is identiek nul als $K < 3$ of als de absolute verschuivingen vanaf de referentie-omgeving symmetrisch zijn (bijv. verschuivingen van $+1, -1, 0$ ).
Proxy Attenuatie: Voor kenmerken die causale en spuriale signalen mengen ( $X_j = \alpha X_C + (1-\alpha)X_S$ ), degradeert NSR als $O((1-\alpha)^4)$ .

3. Convergentiesnelheden bij Eindige Steekproeven

Het artikel stelt een verschil in snelheid vast tussen causale en spuriale kenmerken:

Onder de nulhypothese (causaal kenmerk, $\text{NSR}=0$ ), convergeert de empirische estimator met $O_p(n^{-1})$ .
Onder de alternatieve hypothese (spuriaal kenmerk, $\text{NSR}>0$ ), convergeert het met $O_p(n^{-1/2})$ .
Dit gat maakt permutatie-gebaseerde drempelwaarde-bepaling mogelijk zonder distributie-aannames, aangezien de nulverdeling sneller naar nul krimpt dan de alternatieve hypothese zich afscheidt.

4. Onvergelijkbaarheid met IRM en ICP

De auteurs bewijzen dat NSR, IRM en ICP onder onvergelijkbare condities opereren wat betreft verschuivingsschema's.

Er bestaan configuraties van verschuivingen (bijv. symmetrische verschuivingen) waarbij IRM en ICP spuriale kenmerken detecteren maar NSR niet.
Omgekeerd zijn er configuraties (bijv. asymmetrische verschuivingen waarbij gekwadrateerde varianties nul zijn) waar NSR spuriale kenmerken detecteert maar IRM niet.
De methoden zijn complementair; de keuze hangt af van de specifieke geometrie van de beschikbare omgevingsverschuivingen.

Experimentele Resultaten

Synthetische Data Validatie

Regime Verificatie: Experimenten bevestigen de theoretische faseovergang. Met $K \ge 5$ en een verschuivingsgrootte $\epsilon \ge 1$ bereikt NSR een AUROC van 1.000 met nul variantie over 30 seeds.
Foutmodi: De experimenten valideren de scherpte van de faalcondities. Symmetrische verschuivingen (degeneratieve geometrie) resulteren in prestaties op niveau van toeval ( $\text{AUROC} \approx 0,5$ ), terwijl het doorbreken van de symmetrie de perfecte detectie herstelt.
Convergentie: De empirische convergentiesnelheden komen overeen met de theoretische $O(n^{-1})$ en $O(n^{-1/2})$ voorspellingen binnen een foutmarge van 2-8%.

Model-Agnosticisme

NSR werd getest op vijf modelfamilies (OLS, Ridge, Random Forest, XGBoost, MLP). De rangschikking van kenmerken was consistent over de families heen ( $\text{Kendall } \tau \ge 0,529$ ), wat bevestigt dat het signaal in de omgevingsstructuur ligt en niet in de specifieke modelklasse.

Real-World Applicaties

Fietsverhuur Data: Gebruikmakend van maand-kwintiel partities, herstelde NSR 6 van de 8 causale kenmerken (Precision@7 = 0,75), waarmee het LASSO (0,58) overtrof zonder het getrainde model aan te passen.
Wijnkwaliteit Data: NSR identificeerde causale drijvers in een setting met batch-niveau technische variatie.
Praktisch Inzicht: De experimenten benadrukken dat NSR vereist dat het basismodel generaliseert binnen omgevingen (en niet overfit). Adaptieve regularisatie (gericht op $R^2 \approx 0,75$ ) was noodzakelijk om te voorkomen dat omgevingsspecifieke ruis het stabiliteitssignaal zou maskeren.

Betekenis en Reikwijdte

Het artikel stelt dat NSR een theoretisch gefundeerde, post-hoc audit-tool biedt voor uitgerolde modellen. De betekenis ligt in:

Operationele Bruikbaarheid: Het stelt beoefenaars in staat om spuriale afhankelijkheid in bestaande modellen te diagnosticeren zonder de training te herhalen of toegang te hebben tot de trainingsdata.
Expliciete Grenzen: In tegen tegenstelling tot veel "black box" interpreteerbaarheidsinstrumenten, komt NSR met een volledige kaart van zijn werkingsregime en foutmodi, wat kwantitatieve controles mogelijk maakt (bijv. verificatie van verschuivingsgrootte en aantal omgevingen) vóór toepassing.
Complementariteit: Het vult een niche die onderscheidend is van IRM en ICP, specifiek gericht op scenario's waarin de verschuivingsgeometrie asymmetrisch is en het model reeds getraind is.

Beperkingen erkend door de auteurs:

Marginale Causale Stabiliteit: NSR gaat ervan uit dat de distributie van causale kenmerken ( $P(X_C)$ ) stabiel is over omgevingen. Als causale covariaten verschuiven (bijv. demografische veranderingen), kan NSR deze onterecht als spuriaal classificeren.
Verschuivingsstructuur: De huidige formulering gaat uit van een uniforme scalaire verschuiving over spuriale kenmerken. Kenmerk-specifieke of covariantie-verschuivingen worden niet direct gevangen zonder uitbreidingen naar subruimtes.
Regime Afhankelijkheid: De methode is strikt een diagnostisch instrument voor het gestructureerde verschuivingsregime; het is geen algemeen bruikbare tool voor causale ontdekking bij willekeurige datadistributies.