Generating Multi-Table Time Series EHR from Latent Space with Minimal Preprocessing

Ce papier présente RawMed, le premier cadre capable de générer des dossiers médicaux électroniques (DME) synthétiques multi-tables et temporels à partir d'un espace latent avec un prétraitement minimal, surpassant les modèles existants en fidélité et en utilité tout en respectant la vie privée.

L'essentiel

Imaginez que les dossiers médicaux électroniques (les EHR) sont comme de gigantesques bibliothèques où chaque patient a sa propre étagère remplie de livres, de notes, de prescriptions et de résultats d'analyses, tous datés et organisés dans le temps. Ces données sont précieuses pour apprendre aux ordinateurs à mieux soigner les gens, mais elles sont aussi ultra-confidentielles. On ne peut pas simplement les partager, car cela violerait la vie privée des patients.

C'est là qu'intervient la nouvelle invention de cette équipe de chercheurs : RawMed.

Voici une explication simple de ce qu'ils ont fait, en utilisant quelques analogies amusantes.

1. Le Problème : Les "Photocopies" imparfaites

Jusqu'à présent, pour créer des données médicales factices (synthétiques) qui ressemblent à la réalité sans révéler de vrais secrets, les chercheurs faisaient un peu comme un photocopieur de mauvaise qualité :

• Ils ne copiaient que quelques pages importantes (par exemple, juste la température et la tension artérielle).
• Ils réécrivaient les chiffres en les arrondissant ou en les regroupant (par exemple, dire "entre 10 et 20" au lieu de "14,3").
• Le résultat ? Une copie qui ressemble vaguement à l'original, mais qui a perdu beaucoup de détails subtils. Si un médecin voulait étudier quelque chose de spécifique qui n'était pas sur la "photocopie", il était bloqué.

2. La Solution : RawMed, le "Miroir Magique"

RawMed est comme un miroir magique qui crée une réplique parfaite de la bibliothèque médicale, mais avec des fantômes à la place des vrais patients.

• Pas de ciseaux, pas de colle : Contrairement aux anciennes méthodes qui découpaient et collaient des morceaux de données, RawMed prend les dossiers bruts, exactement comme ils sont, avec toutes les colonnes, tous les mots et tous les chiffres.
• L'approche "Texte" : Imaginez que vous transformez tout le dossier médical d'un patient en une longue histoire écrite. Au lieu de regarder les chiffres comme des mathématiques, RawMed les traite comme des mots dans un livre. Cela lui permet de garder les valeurs exactes (comme "14,3 mg/dL" au lieu de "14") sans les déformer.

3. Le Défi : Trop d'histoires à lire

Le problème avec cette méthode, c'est que les histoires médicales peuvent être énormes. Un patient peut avoir des milliers de lignes de données. Si on essaie de les lire toutes d'un coup, le cerveau de l'ordinateur (le modèle d'IA) s'essouffle et devient très lent.

La solution de RawMed : La "Valise de Compression"
Pour résoudre ce problème, les chercheurs ont inventé une astuce géniale :

1. Le Résumeur (Compression) : Avant de donner l'histoire à l'ordinateur, ils la résumment en un code secret très court (comme transformer un roman de 500 pages en une série de 10 mots-clés très précis).
2. L'Apprentissage : L'ordinateur apprend à comprendre l'histoire en lisant ces mots-clés compressés. C'est beaucoup plus rapide et efficace.
3. Le Décodeur : Une fois l'histoire apprise, l'ordinateur écrit une nouvelle histoire (un nouveau dossier médical factice) en utilisant ce code, puis la "décompresse" pour la rendre aussi détaillée et réaliste que l'originale.

4. Pourquoi c'est une révolution ?

• La Fidélité (La ressemblance) : Les dossiers créés par RawMed sont si réalistes qu'ils contiennent les mêmes relations cachées que les vrais. Par exemple, si dans la réalité, un patient qui prend un médicament A a souvent un résultat de laboratoire B, RawMed reproduira cette relation parfaitement.
• La Vie Privée : C'est comme si vous aviez un double parfait de votre maison, mais avec des meubles en plastique et des murs en papier. Vous pouvez l'explorer, le tester, et même y faire des exercices de sécurité, mais personne ne peut y voler vos vrais bijoux ou vos secrets. Les chercheurs ont prouvé qu'il est presque impossible de deviner si un dossier factice vient d'un vrai patient ou non.
• L'Utilité : Les médecins et les chercheurs peuvent utiliser ces données pour entraîner des IA à prédire des maladies ou à tester de nouveaux traitements, sans jamais toucher aux données sensibles d'un vrai patient.

En résumé

Imaginez que vous voulez apprendre à conduire une voiture de course, mais vous n'avez pas le droit de toucher aux vraies voitures (trop risqué).

• Les anciennes méthodes vous donnaient un vélo avec des roues de voiture dessinées dessus. Ça ressemble à une voiture, mais ça ne roule pas comme ça.
• RawMed, lui, construit une réplique parfaite de la voiture de course, avec le même moteur, les mêmes pneus et la même sensation de conduite, mais fabriquée avec des matériaux totalement inoffensifs. Vous pouvez conduire à fond, faire des dérapages et apprendre, sans aucun risque pour la vraie voiture ni pour le propriétaire.

C'est cela, RawMed : un générateur de données médicales qui respecte la vie privée tout en offrant une qualité de "réalité" jamais vue auparavant.

Résumé technique

1. Le Problème

Les Dossiers Médicaux Électroniques (DME ou EHR) sont des bases de données relationnelles complexes contenant des données temporelles hétérogènes (categorielles, numériques, textuelles) enregistrées sur plusieurs tables (ex: laboratoires, prescriptions, événements d'entrée). Ils sont cruciaux pour la recherche médicale et l'IA clinique.

Cependant, leur utilisation est entravée par :

• Les préoccupations de confidentialité : Les données réelles sont sensibles et soumises à des réglementations strictes (ex: HIPAA, GDPR), limitant le partage.
• Les limites des méthodes de synthèse existantes :
  • Sélection de fonctionnalités (Feature Selection) : Les approches actuelles ne génèrent souvent qu'un sous-ensemble de colonnes sélectionné manuellement par des experts, rendant les données synthétiques inutilisables pour de nouvelles questions de recherche nécessitant des colonnes exclues.
  • Prétraitement destructeur (Lossy Preprocessing) : Les méthodes actuelles utilisent souvent du binning (regroupement en intervalles), de l'agrégation temporelle ou de la normalisation. Cela déforme les distributions originales, masque les anomalies soudaines et réduit la fidélité des données pour la modélisation prédictive.
  • Manque de structure temporelle et relationnelle : Peu de modèles gèrent simultanément la dynamique temporelle fine et les relations complexes entre plusieurs tables.

2. Méthodologie : RawMed

RawMed est le premier cadre de travail conçu pour générer des DME bruts, multi-tableaux et temporels, en préservant toutes les colonnes et les valeurs originales avec un prétraitement minimal.

L'architecture repose sur une approche basée sur le texte et la compression dans un espace latent :

A. Représentation des Données (Text-based)

Au lieu de transformer les données en vecteurs numériques complexes, RawMed sérialise chaque événement clinique en une chaîne de texte.

• Exemple : Un événement de laboratoire devient "lab item Glucose value 95 uom mg/dL".
• Cela permet de conserver les valeurs exactes sans perte d'information due au binning ou à l'agrégation.

B. Compression par Quantisation Résiduelle (Residual Quantization - RQ)

La représentation textuelle des séries temporelles longues entraîne une explosion de la complexité computationnelle. Pour y remédier :

• Encodage : Les embeddings textuels des événements sont compressés en une représentation latente discrète.
• Technique : Utilisation de la Quantisation Vectorielle (VQ) améliorée par la Quantisation Résiduelle (RQ). Contrairement à la VQ simple qui peut déformer les distributions indépendantes (comme le poids du patient), la RQ décompose le vecteur latent en plusieurs composantes quantifiées successives, préservant ainsi une haute fidélité même pour les colonnes numériques complexes.
• Résultat : Réduction drastique de la longueur de la séquence (ex: de 11k tokens à 1.8k tokens pour MIMIC-IV), permettant une modélisation efficace.

C. Modélisation Temporelle (TempoTransformer)

Une fois compressés, les événements sont modélisés comme une séquence auto-régressive :

• Chaque bloc de séquence contient les tokens temporels (timestamp découpé en chiffres) et les tokens d'événements (indices quantifiés).
• Un modèle Transformer (TempoTransformer) apprend à prédire le token suivant en fonction des précédents, capturant ainsi les dépendances temporelles complexes et les relations inter-tableaux.

D. Post-traitement et Validation

Un pipeline de post-traitement rigoureux est appliqué pour garantir l'intégrité structurelle :

• Vérification des noms de tables et de colonnes (correction des fautes de frappe via la distance de Levenshtein).
• Suppression des événements invalides ou hors fenêtre temporelle.
• Application de contraintes spécifiques aux colonnes (plages numériques, valeurs catégorielles valides).

3. Contributions Clés

1. Première génération de DME bruts multi-tableaux : RawMed génère l'intégralité des données brutes (toutes les colonnes, valeurs originales) sans sélection de fonctionnalités ni transformation destructive.
2. Nouveau cadre d'évaluation : Proposition d'une méthodologie d'évaluation complète incluant :
   • Similarité distributionnelle (CDE, I-CDE).
   • Dépendances inter-colonnes et inter-tableaux (PCC, I-PCC).
   • Fidélité temporelle (Time Gap, Event Count, Next Event Prediction).
   • Utilité clinique (performance sur des tâches de prédiction downstream).
   • Protection de la vie privée (attaques par inférence de membre).
3. Validation Open Source : Le modèle a été validé sur deux grands jeux de données publics (MIMIC-IV et eICU) et le code est disponible publiquement.

4. Résultats Expérimentaux

Les expériences ont été menées sur les jeux de données MIMIC-IV et eICU, comparant RawMed à des baselines (SDV, RC-TGAN, ClavaDDPM, RealTabFormer).

• Fidélité Statistique : RawMed surpasse toutes les baselines sur les métriques de distribution (CDE, I-CDE) et de corrélation (PCC, I-PCC), notamment pour les items cliniques spécifiques. Il préserve mieux les distributions originales que les modèles utilisant la quantisation vectorielle simple (VQ).
• Fidélité Temporelle : RawMed excelle dans la reproduction des intervalles entre événements (Time Gap) et de la fréquence des événements, avec des scores KS (Kolmogorov-Smirnov) nettement inférieurs (meilleurs) que les concurrents.
• Utilité Clinique : Dans des tâches de prédiction clinique (ex: prédiction de la créatinine, de l'hémoglobine), les modèles entraînés sur les données synthétiques de RawMed atteignent des performances (AUROC) très proches de celles des modèles entraînés sur des données réelles, surpassant largement les autres méthodes de synthèse.
• Efficacité et Compression : La comparaison avec RealTabFormer (sans compression) montre que RawMed, grâce à la compression dans l'espace latent, réduit la longueur de séquence de ~84% tout en améliorant la qualité des données générées.
• Confidentialité : Les données synthétiques résistent aux attaques par inférence de membre (MIA), avec des taux de précision proches du hasard (0.5), indiquant une bonne protection de la vie privée.

5. Signification et Impact

Ce travail représente une avancée majeure pour la recherche en IA médicale :

• Flexibilité accrue : En générant des données "brutes" complètes, RawMed permet aux chercheurs de poser n'importe quelle question d'analyse sans être limités par les fonctionnalités pré-sélectionnées par les générateurs précédents.
• Préservation de la réalité clinique : L'absence de prétraitement destructeur permet de capturer des nuances cliniques subtiles (tendances, anomalies) souvent perdues dans les méthodes actuelles.
• Évolutivité : L'approche par compression permet de gérer des ensembles de données massifs avec de nombreuses colonnes et des séquences temporelles longues, ce qui était auparavant computaionnellement prohibitif.
• Confiance : La démonstration d'une forte utilité clinique et d'une protection de la vie privée valide RawMed comme une alternative viable aux données réelles pour le développement et le test de modèles d'IA médicale.

En résumé, RawMed comble le fossé entre la nécessité de protéger la vie privée des patients et le besoin de données de haute fidélité pour l'entraînement de modèles d'IA complexes, en introduisant une nouvelle norme pour la génération de données de santé synthétiques.