Technische Samenvatting: Fed-CausalDiff

Probleemstelling

In sectoren zoals multi-center gezondheidszorg, algoritmische reclame en risicobeheer in de financiële sector genereren beslissingssystemen enorme sequentiële logs via "context-actie-feedback" interacties. Echter, strikte privacyregels (bijv. GDPR) en barrières in data-eigendom verhinderen echter de centralisatie van deze datasets, wat Federated Learning (FL) noodzakelijk maakt voor collaboratieve modellering.

Huidige FL-benaderingen kampen met twee primaire beperkingen met betrekking tot interventionele inferentie:

1. Observationele Bias: Standaard FL-methoden (bijv. FedGAN, TimeGAN) richten zich op het fitten van historische observationele distributies. Ze missen expliciete modellering van do-semantiek, waardoor ze vatbaar zijn voor systematische bias bij het evalueren van nieuwe beleidsregels of contrafeitelijke uitkomsten, met name in lange sequenties met tijdvariërende confounding.
2. Gebrek aan Simulatoren: Hoewel sequentiële causale inferentiemethoden (bijv. Doubly Robust estimators) bestaan voor beleidsevaluatie, missen zij vaak een bemonsterbare simulator die volledige contrafeitelijke trajecten kan genereren onder specifieke beleidsregels. Bestaande federated causale methoden pakken vaak mechanisme-identificatie aan, maar verwaarlozen bemonsterbare beleidssimulatie.

Methodologie: Fed-CausalDiff

De auteurs stellen Fed-CausalDiff voor, een federated causal diffusion framework ontworpen voor do-simulatie en beleidsevaluatie. Het framework is gebaseerd op Structurele Causale Modellen (SCM's) en maakt gebruik van conditionele latente diffusie.

Kernarchitectuur en Ontkoppelde Synchronisatie

De centrale innovatie is de structurele decompositie van de latente staatsevolutie ($K_t$) in twee subruimten:

• Invariante Causale Subruimte ($K^{(c)}_t$): Legt gedeelde causale wetten vast over alle cliënten heen.
• Locatie-Specifieke Confounding Subruimte ($K^{(s)}_t$): Legt lokale heterogeniteit en nuisance-factoren vast die specifiek zijn voor elke cliënt.

Deze decompositie maakt Decoupled Synchronization (DSS) mogelijk:

• Globale Aggregatie: De server aggregeert alleen de parameters ($\Theta_c$) die geassocieerd zijn met de causale score-dynamiek en de outcome decoder.
• Lokale Retentie: Parameters ($\Theta^i_s$) die geassocieerd zijn met confounding scores blijven lokaal bij elke cliënt, wat voorkomt dat heterogene confounders worden gemiddeld, wat de prestaties in non-IID instellingen zou verslechteren.

Drie-fasen Trainingspipeline

Het model wordt getraind via een driefasig proces, waarbij DSS bij elke communicatieronde wordt toegepast:

1. Latente Inferentie & Disentanglement: Een recurrente encoder brengt geobserveerde trajecten in kaart naar de gepartitioneerde latente ruimte $K = [K^{(c)}, K^{(s)}]$. Een disentanglement-doelstelling (met behulp van Gradient Reversal Layers) zorgt ervoor dat $K^{(c)}$ geen locatie-specifieke artefacten codeert, terwijl $K^{(s)}$ deze wel vangt.
2. Conditionele Score Dynamiek: Staatsevolutie wordt gemodelleerd als een conditioneel denoising proces. De scorefunctie is gedecomposeerd in een globale causale term ($S_{causal}$) en een lokale confounding term ($S_{confound}$). Dit maakt stabiele stochastische rollouts onder interventies mogelijk.
3. Causale Decoder & Aggregatie: Een decoder vertaalt latente staten naar observeerbare uitkomsten. Alleen de gedeelde causale parameters worden gesynchroniseerd, terwijl lokale confounding parameters lokaal worden bijgewerkt.

Optimalisatie-objectieven

Het lokale trainingsdoel balanceert generatieve getrouwheid met causale consistentie:

• Generatieve Getrouwheid: Omvat Reconstruction Loss ($L_{recon}$) en Diffusion Denoising Loss ($L_{diff}$) om ruisvoorspellingsfouten te minimaliseren.
• Causale Regularisatie: Omvat Intervention Alignment ($L_{align}$) om de MMD-afstand tussen factuele en interventionele distributies te minimaliseren, Disentanglement loss ($L_{dis}$), en Counterfactual Consistency ($L_{cf}$).

Belangrijkste Bijdragen

1. Federated Do-Simulatie: Introduceert het eerste framework dat federated learning combineert met score-gebaseerde conditionele diffusie voor het genereren van interventionele sequenties, waarmee het verder gaat dan louter observationele fitting.
2. Decoupled Synchronization (DSS): Stelt een nieuwe synchronisatiestrategie voor die alleen gedeelde causale mechanismen aggregeert terwijl lokale confounders worden behouden, wat effectief omgaat met cliëntheterogeniteit zonder de causale identificatie in gevaar te brengen.
3. Robuuste Beleidsevaluatie: Biedt een bemonsterbare simulator voor offline beleidsevaluatie (OPE), wat de schatting van Average Treatment Effects (ATE) en beleidswaarden onder contrafeitelijke scenario's mogelijk maakt op een privacy-bewuste manier.

Experimentele Resultaten

Het framework werd geëvalueerd op vier datasets: DKT-Synth (semi-synthetisch met grondwaarheid), Statics2011, Diabetes-130, en OpenBandit. De baselines waren RCGAN, TimeGAN, CRN, en FedCM.

• Interventionele Getrouwheid (DKT-Synth): Fed-CausalDiff behaalde de laagste fouten over alle metrieken: PEHE (0.057), ATE (0.045) en Policy Value (0.049). Ablatie-studies bevestigden dat het verwijderen van DSS of de disentanglement loss de prestaties aanzienlijk verslechterde, wat de noodzaak van de voorgestelde architectuur valideert.
• Offline Beleidswaarde: Op Diabetes en DKT-Synth leverde Fed-CausalDiff hogere gemiddelde Doubly Robust (DR) schattingen op dan de baselines, wat wijst op een superieure capture van langetermijn causale impacts. Op OpenBandit vertoonde Fed-CausalDiff, hoewel CRN hogere ruwe DR-waarden liet zien, een gematigde prestatie met betere stabiliteit.
• Downstream Nut: Het model behield competitieve TSTR (Train on Synthetic, Test on Real) prestaties, wat aantoont dat het afdwingen van interventionele restricties de factuele getrouwheid niet significant heeft aangetast.
• Systeemefficiëntie: Fed-CausalDiff demonstreerde een snellere convergentie en grotere stabiliteit in interventionele nauwkeurigheid vergeleken met TimeGAN (dat een hoge variantie vertoonde) en RCGAN. Echter, de communicatie-prestatie trade-off was dataset-afhankelijk; hoewel efficiënt op DKT-Synth en Diabetes, domineerde het de lichtere baselines op OpenBandit en Statics2011 niet strikt in termen van Pareto-optimaliteit.

Betekenis en Claims

Het artikel claimt dat Fed-CausalDiff erin slaagt de kloof tussen federated learning en causale inferentie te overbruggen door de constructie van "interveneerbare sequentiële wereldmodellen" mogelijk te maken. De primaire betekenis ligt in:

• Overwinnen van Observationele Beperkingen: Het gaat verder dan het fitten van historische correlaties en modelleert expliciet do-semantiek, wat betrouwbare contrafeitelijke inferentie in gedecentraliseerde omgevingen mogelijk maakt.
• Omgaan met Heterogeniteit: De DSS-mechanisme adresseert de uitdaging van cliëntheterogeniteit in causale modellering, een veelvoorkomend faalpunt in standaard federated benaderingen.
• Gebalanceerde Trade-off: Het framework biedt een gunstige afweging tussen communicatiekosten en inferentiegetrouwheid, en vormt een robuust fundament voor beleidsevaluatie zonder dat uitwisseling van ruwe data vereist is.

De auteurs merken beperkingen op met betrekking tot het gebrek aan grondwaarheid-contrafeiten in real-world datasets (vertrouwend op offline estimators) en de huidige simulatie van FL op een enkele machine zonder rekening te houden met complexe systeemfactoren zoals differential privacy of cliëntuitval. Toekomstig werk wordt voorgesteld om onzekerheidskwantificering en gepersonaliseerd federated learning aan te pakken.