IGC-Net for conditional average potential outcome estimation over time

Titel: IGC-Net voor het schatten van conditionele gemiddelde potentiële uitkomsten over tijd

Publicatie: ICLR 2026
Auteurs: Konstantin Hess, Dennis Frauen, Valentyn Melnychuk, Stefan Feuerriegel (LMU München & Munich Center for Machine Learning)

1. Het Probleem

Het schatten van Conditionele Gemiddelde Potentiële Uitkomsten (CAPOs) op basis van observationele data is cruciaal voor gepersonaliseerde besluitvorming in de geneeskunde (bijv. het voorspellen van het effect van een reeks behandelingen op een patiënt). De uitdaging ligt in het omgaan met tijdvariërende verstorende factoren (time-varying confounding).

• De Complexiteit: In dynamische omgevingen (zoals elektronische gezondheidsdossiers) beïnvloeden toekomstige uitkomsten en covariaten de toekomstige behandelingen. Tijdens inferentie zijn deze toekomstige verstorende factoren echter niet waargenomen.
• Bestaande Tekortkomingen:
  • Onjuiste aanpassing: Methoden zoals CRN, CT en TE-CDE proberen verstorende factoren te balanceren via representaties, maar falen om de juiste causale schatting te bereiken. Dit leidt tot oneindige-sample bias (irreducibele fouten, ongeacht de datasetgrootte).
  • Instabiele aanpassing: Methoden zoals RMSNs gebruiken Inverse Propensity Weighting (IPW). In een tijdvariërende setting vereist dit het product van inverse propensity-scores, wat leidt tot deling door waarden dicht bij nul. Dit resulteert in enorme variantie en instabiliteit, vooral bij langere voorspellingshorizons.
  • Inefficiënte aanpassing: Methoden zoals G-Net en G-transformer gebruiken G-computatie, maar proberen de volledige verdeling (alle momenten) van alle toekomstige verstorende factoren te schatten via Monte Carlo-sampling. Dit is computatierijk en lijdt aan de "curse of dimensionality".

2. Methodologie: IGC-Net

De auteurs introduceren de Iterative G-computation Network (IGC-Net), een nieuw, end-to-end trainbaar neuraal model dat tijdvariërende verstorende factoren correct aanpast zonder de nadelen van bestaande methoden.

Kernconcepten:

• G-computatie: Het model baseert zich op de rigoureuze G-computatie-formule (Robins), die de causale effecten identificeert door iteratief te conditioneren op de geschiedenis.
• Regressie-gebaseerde iteratie: In tegenstelling tot G-Net, schat IGC-Net geen volledige kansverdelingen. In plaats daarvan gebruikt het een iteratief pseudo-uitkomst-regressie mechanisme.
  • Het model definieert "pseudo-uitkomsten" ($G$) die de verwachte toekomstige uitkomsten vertegenwoordigen.
  • Het model leert deze pseudo-uitkomsten stap voor stap terug te rekken (van $t+\tau$ naar $t$) door conditionele verwachtingen te schatten.

Architectuur:

1. Neurale Ruggegraat (Backbone): Een multi-input Transformer (of LSTM) die de volledige waargenomen geschiedenis ($\bar{H}_t$) encodeert. Deze bestaat uit sub-Transformers voor uitkomsten, covariaten en behandelingen, die informatie uitwisselen via cross-attention.
2. G-computatie Heads: Een reeks neurale netwerken die de geëncodeerde geschiedenis en de interventie-sequentie nemen om de iteratieve regressies uit te voeren.

Trainingsalgoritme (End-to-End):
Het trainingsproces bestaat uit twee afwisselende stappen in een iteratief schema:

• Stap A (Generatie): Het model genereert voorspellingen voor de ontbrekende pseudo-uitkomsten ($\tilde{G}$) voor tijdstappen $t+1$ tot $t+\tau-1$. Deze zijn nog niet waar (geen ground truth), maar worden gebruikt als tijdelijke doelen.
• Stap B (Leren): Het model traint de gewichten door de voorspellingen van de G-computatie heads te regressen op de gegenereerde pseudo-uitkomsten (voor toekomstige stappen) en de daadwerkelijk waargenomen uitkomsten (voor de laatste stap).
• Iteratie: De geüpdatte modellen worden gebruikt in de volgende generatiestap. Dit zorgt ervoor dat de fouten zich geleidelijk corrigeren en dat informatie efficiënt wordt gedeeld over de tijdshorizon.

3. Belangrijkste Bijdragen

1. Eerste Neurale G-computatie: IGC-Net is het eerste neurale model dat volledige, regressie-gebaseerde iteratieve G-computatie uitvoert voor CAPOs in een tijdvariërende setting.
2. Vermijden van Propensity Scores: In tegenstelling tot RMSNs vermijdt het model het gebruik van inverse propensity scores, waardoor het robuust is tegen deling door kleine waarden en hoge variantie.
3. Vermijden van Hoge Dimensie Distributies: In tegenstelling tot G-Net schat het model geen volledige verdelingen van hoge dimensie (alle momenten), maar focust het uitsluitend op het schatten van het eerste moment (de verwachting) via regressie. Dit elimineert de noodzaak voor Monte Carlo-sampling.
4. End-to-End Training: Het model wordt in één keer getraind, wat zorgt voor een efficiënte uitwisseling van informatie tussen tijdstappen en een stabielere convergentie.

4. Resultaten

De auteurs evalueren IGC-Net op synthetische data (tumor-groeimodel), semi-synthetische data (MIMIC-III extract) en echte klinische data.

• Synthetische Data: IGC-Net presteert significant beter dan alle baselines (CRN, CT, TE-CDE, RMSNs, G-Net, G-transformer). Het is robuust tegen toenemende sterkte van verstorende factoren ($\gamma$) en toont een verbetering van tot 17,4% ten opzichte van de beste baseline.
• Semi-synthetische Data (MIMIC-III): Bij hoge dimensies en langere voorspellingsvensters ($\tau = 2$ tot $6$) blijft IGC-Net de beste prestaties leveren (tot 26,7% verbetering). Baselines zonder juiste aanpassing (CRN, CT) zijn instabiel, terwijl baselines met IPW of MC-sampling (RMSNs, G-Net) lijden onder de "curse of dimensionality".
• Robuustheid:
  • Overlap: IGC-Net presteert goed zelfs bij schendingen van de overlap (propensity scores dicht bij 0 of 1), waar IPW-methoden falen.
  • Onwaargenomen Confounding: Het model blijft robuust bij de aanwezigheid van onwaargenomen verstorende factoren, hoewel dit een fundamentele beperking is voor alle methoden.
• Ablatie Studies: Het vervangen van de Transformer door een LSTM (IGC-LSTM) levert nog steeds superieure resultaten op ten opzichte van baselines, wat aantoont dat de kerninnovatie in het iteratieve G-computatie-algoritme ligt en niet alleen in de backbone. Een "biased transformer" (zonder iteratie) presteert slecht, wat het belang van de juiste causale aanpassing benadrukt.

5. Betekenis en Conclusie

IGC-Net vertegenwoordigt een significante stap voorwaarts in causaal machine learning voor de gezondheidszorg. Door een end-to-end oplossing te bieden die tijdvariërende verstorende factoren correct aanpast zonder de numerieke instabiliteit van IPW of de inefficiëntie van Monte Carlo-sampling, maakt het model gepersonaliseerde medische besluitvorming op basis van complexe, longitudinale patiëntdata (zoals EHR's) betrouwbaarder. Het biedt een praktische en schaalbare route naar het schatten van de effecten van dynamische behandelingsregimes.