Observable Neural ODEs for Identifiable Causal Forecasting in Continuous Time

1. Énoncé du problème

L'article aborde le défi de l'inférence causale dans la prise de décision séquentielle en temps continu, en particulier dans les régimes de traitement dynamique (DTR) courants en médecine (par exemple, l'ajustement des traitements en fonction de l'évolution de l'historique de santé d'un patient).

• Défi central : L'identification des effets dynamiques des traitements dans des données observationnelles est compliquée par le biais de confusion dépendant du temps et la rétroaction traitement-confondant. Dans ces scénarios, les covariables affectent à la fois l'attribution du traitement et les résultats tout en étant influencées par les traitements antérieurs.
• Confondants cachés : Une complication critique est la présence de confondants cachés (états de maladie non observés) qui influencent à la fois le traitement et les résultats. Les méthodes standard d'identification causale échouent souvent ici car l'état latent pertinent n'est que partiellement observé.
• Limitation des modèles existants : Les approches existantes basées sur les Neural ODE pour l'inférence causale manquent souvent de garanties structurelles assurant que l'état latent peut être reconstruit de manière unique à partir des observations. Sans cela, la distribution de filtrage sur les états latents reste ambiguë, empêchant l'identification des effets causaux.

2. Méthodologie : Observable Neural ODEs (ObsNODEs)

Les auteurs proposent ObsNODEs, une classe de modèles Neural ODE conçue pour imposer l'observabilité par construction, reliant l'observabilité de la théorie du contrôle à l'identifiabilité causale.

A. Fondement théorique

• Modèle espace-état : Le système est modélisé comme un modèle espace-état latent en temps continu :
  • $\dot{z}_t = f_\theta(z_t, a_t)$ (Dynamiques latentes pilotées par le traitement $a_t$)
  • $y_t = h(z_t)$ (Modèle d'observation)
• Condition d'observabilité : L'article établit que pour que les effets dynamiques des traitements soient identifiables en présence de confondants cachés, l'état latent $z_t$ doit être observable. Cela signifie que l'état initial (et donc toute la trajectoire) doit être déterminé de manière unique par l'historique des sorties observées sur un horizon fini.
• Formule d'ajustement causale : Les auteurs dérivent une formule d'ajustement en temps continu pour la distribution des résultats potentiels $P(Y_{t+s}(a_{[t, t+s)}) | Y_t, O_{[0,t)})$.
  $$P(Y_{t+s} | \dots) = \int p(y_{t+s}|z_{t+s}) p(z_{t+s}|a_{[t, t+s)}, z_t) p(z_t | y_t, o_{[0,t)}) dz_t dz_{t+s}$$
  Cette formule repose sur la distribution de filtrage $p(z_t | y_t, o_{[0,t)})$. Si le système n'est pas observable, cette distribution ne peut pas être identifiée de manière unique, et la prévision causale échoue.
• Critère de porte avant conditionnel (CFD) : La dérivation relie le modèle espace-état au CFD, traitant l'état latent comme un médiateur qui intercepte tous les chemins dirigés du traitement vers le résultat, permettant l'identification causale même avec des confondants non observés.

B. Architecture du modèle : Forme normale observable

Pour garantir l'observabilité, ObsNODEs paramètre les dynamiques latentes en forme normale triangulaire observable continue :

• L'état latent $Z_t$ est partitionné en blocs.
• Les dynamiques sont structurées de telle sorte que le premier bloc corresponde directement à l'observation (plus du bruit), et les blocs subséquents dépendent des blocs précédents et du traitement.
• Structure :
  $$\dot{Z}^{(1)}_t = Z^{(2)}_t + \phi^{(1)}(Z^{(1)}_t, a_t)$$
  $$\dot{Z}^{(i)}_t = Z^{(i+1)}_t + \phi^{(i)}(Z^{(1)}_t, \dots, Z^{(i)}_t, a_t)$$
  $$Y_t = Z^{(1)}_t + \epsilon_t$$
• Cette structure garantit que l'état latent est reconstituable à partir de l'historique des observations, satisfaisant la condition nécessaire pour la formule d'ajustement causale.

C. Entraînement et inférence

• Filtrage : Un encodeur RNN (LSTM) est utilisé pour approximer la distribution de filtrage $p(z_t | y_t, o_{[0,t)})$ étant donné l'historique observé jusqu'à un temps de décision $t_c$.
• Prévision : Les résultats futurs sous des trajectoires de traitement hypothétiques sont prédits en intégrant la Neural ODE vers l'avant dans le temps à partir de l'état latent inféré.
• Fonction de perte : L'entraînement est auto-supervisé en utilisant une perte d'erreur quadratique masquée sur des points de temps échantillonnés de manière irrégulière, normalisée par la variance du résultat pour gérer les fréquences d'observation variables.

3. Contributions clés

1. Lien théorique : Démonstration que l'observabilité de l'état latent est une condition nécessaire pour identifier les effets dynamiques des traitements dans les systèmes en temps continu avec confusion cachée. Cela fait le pont entre la théorie du contrôle et l'inférence causale.
2. Dérivation de la formule d'ajustement : Dérivation d'une formule d'ajustement causale en temps continu qui exprime les résultats potentiels via le modèle de mesure, les dynamiques latentes et la distribution de filtrage.
3. Nouvelle architecture (ObsNODE) : Introduction de Neural ODEs sous forme normale observable qui imposent l'observabilité par construction, permettant une prévision causale robuste sous des régimes de traitement dynamique.
4. Validation empirique : Démonstration d'une performance supérieure par rapport aux modèles de séquences de pointe (IGC-Net, SCIP-Net, OptAB, DoseAI) sur des ensembles de données synthétiques, semi-synthétiques et cliniques réels.

4. Résultats expérimentaux

Le modèle a été évalué sur trois ensembles de données :

• Données synthétiques sur le cancer : Simulation du volume tumoral et du poids corporel sous chimiothérapie/radiothérapie avec des forces de confusion variables ($\gamma$).
  • Résultat : ObsNODE a obtenu l'erreur quadratique moyenne (RMSE) la plus faible pour des horizons de prévision courts et une variance constamment faible sur les exécutions. Il a surpassé les modèles de référence dans les scénarios à forte confusion.
• MIMIC-IV semi-synthétique (Sepsis) : Généré à partir de trajectoires réelles de patients avec des effets de traitement synthétiques et des confondants cachés.
  • Résultat : ObsNODE a maintenu un faible RMSE sur un horizon de 24 heures, surpassant significativement SCIP-Net et OptAB, en particulier pour des horizons plus longs. Il a montré une stabilité supérieure (faible variance) par rapport aux modèles de référence.
• Données réelles sur la sepsis (MIMIC-IV) : Prédiction de l'effet des antibiotiques (Vancomycine, Ceftriaxone, Pipéracilline-tazobactame) sur les scores SOFA et les marqueurs de toxicité organique (Créatinine, Bilirubine, ALT).
  • Résultat : ObsNODE a fourni des prévisions robustes pour les scores SOFA et les variables de laboratoire à long terme, surpassant IGC-Net et SCIP-Net sur des horizons de prévision plus longs.

5. Signification et impact

• Résolution de la confusion cachée : L'article fournit une solution rigoureuse à la prévision causale en présence de confondants cachés, un goulot d'étranglement majeur en IA médicale. En imposant l'observabilité, il garantit que le modèle apprend une représentation latente unique de l'état de la maladie.
• Modélisation en temps continu : Contrairement aux modèles en temps discret (par exemple, Transformers, RNN) qui peinent avec l'échantillonnage irrégulier, ObsNODEs gère naturellement les dynamiques en temps continu et les intervalles d'observation irréguliers, ce qui est crucial pour les données cliniques.
• Applicabilité clinique : La capacité à prédire les résultats sous des trajectoires de traitement hypothétiques (contrefactuels) permet aux cliniciens de simuler des scénarios "et si", soutenant les régimes de traitement dynamique personnalisés et l'optimisation des doses.
• Rigueur théorique : Ce travail va au-delà des approches heuristiques d'apprentissage profond en ancrant l'architecture dans l'observabilité de la théorie du contrôle et la théorie de l'identification causale, offrant un cadre principiel pour la prévision causale.

En résumé, ObsNODEs représentent une avancée significative dans l'apprentissage automatique causal en garantissant mathématiquement que les dynamiques latentes requises pour l'identification causale sont récupérables à partir des données observées, conduisant à des prévisions plus fiables et interprétables pour les traitements médicaux dynamiques.