🤖 machine learning

Improving Patient Subtyping on Longitudinal Data using Representations from Mamba-based Architecture

Cet article propose un modèle auto-supervisé basé sur Mamba qui apprend des représentations efficaces à partir de données de dossiers de santé électroniques longitudinaux irréguliers afin d'améliorer significativement le sous-typage des patients et les résultats en médecine de précision par rapport aux modèles de référence existants.

Auteurs originaux : Md Mozaharul Mottalib, Rahmatollah Beheshti

Publié 2026-06-30

📖 6 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Md Mozaharul Mottalib, Rahmatollah Beheshti

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

La vue d'ensemble : Trier les patients comme un bibliothécaire

Imaginez un hôpital comme une immense bibliothèque où chaque patient possède un « livre » de son historique médical. Ces livres sont désordonnés. Certaines pages manquent, d'autres sont écrites dans des langues différentes, et les entrées sont éparpillées de manière aléatoire dans le temps (comme un patient qui ferait une analyse de sang le lundi, une radiographie trois semaines plus tard, et un contrôle six mois après).

Les médecins doivent regrouper ces patients en « clubs » ou sous-types basés sur la façon dont leurs maladies progressent. Cela les aide à traiter les gens de manière plus précise. Cependant, trier ces livres désordonnés et irréguliers est incroyablement difficile pour les ordinateurs.

Le problème : Le goulot d'étranglement « quadratique »

L'article explique que les anciens modèles informatiques (appelés Transformers) étaient comme des bibliothécaires qui essayaient de lire chaque page de chaque livre contre chaque autre page pour trouver des similitudes.

L'analogie : Si vous avez 10 livres, il est facile de tous les comparer. Mais si vous en avez 1 000, le bibliothécaire doit faire un million de comparaisons. Si vous en avez 10 000, il doit en faire 100 millions. C'est ce qu'on appelle la complexité quadratique ( $O(L^2)$ ).
Le résultat : Pour éviter que l'ordinateur ne plante, ces anciens modèles devaient jeter les longs historiques des patients ou les découper en petits morceaux rigides (comme forcer une longue histoire dans un résumé de 50 mots). Cela signifiait qu'ils manquaient les motifs subtils et à long terme de la façon dont une maladie se développe réellement.

La solution : Le train « Mamba »

Les auteurs ont construit un nouveau modèle appelé Triplet-Mamba. Au lieu d'un bibliothécaire comparant chaque page à toutes les autres, ils ont utilisé une architecture Mamba.

L'analogie : Considérez Mamba comme un train à grande vitesse traversant l'historique du patient. Il ne s'arrête pas pour comparer chaque station à toutes les autres. Au lieu de cela, il se déplace de manière linéaire (une étape à la fois), en mémorisant le contexte important au fur et à mesure. C'est la complexité linéaire ( $O(L)$ ).
Pourquoi c'est important : Il peut gérer l'intégralité de l'histoire de vie d'un patient (même si elle s'étend sur des années) sans que l'ordinateur ne manque de mémoire. Il est rapide et efficace.

Comment il gère les données désordonnées : Le système « Triplet »

Les données médicales réelles sont irrégulières. Un patient peut avoir une lecture de température à 14h00 et une analyse de sang à 16h30 le lendemain. Les anciens modèles forçaient souvent ces données dans une grille nette (comme un tableur), ce qui fait perdre la précision du moment exact.

Triplet-Mamba traite chaque donnée comme un Triplet :

Temps : Quand cela s'est produit.
Caractéristique : Ce que c'était (ex: « Tension artérielle »).
Valeur : Combien (ex: « 120 »).

L'analogie : Au lieu de forcer un journal intime désordonné dans un calendrier, le modèle lit le journal exactement tel qu'il est écrit : « Mardi, je me suis senti étourdi (Temps : Mardi, Caractéristique : Étourdissement, Valeur : Élevée) ». Cela préserve la réalité exacte et désordonnée de la vie du patient.

L'entraînement : Apprendre sans professeur

L'article décrit une approche d'auto-apprentissage supervisé (Self-Supervised).

L'analogie : Imaginez enseigner à un étudiant à comprendre une histoire en lui faisant lire un livre dont la dernière page est manquante et en lui demandant de deviner ce qui se passe ensuite. On ne lui donne pas la réponse par un professeur ; il apprend la structure de l'histoire en essayant de prédire le futur.
Dans l'article : Le modèle examine les dossiers passés d'un patient et essaie de prédire ses futurs résultats de laboratoire. En faisant cela des millions de fois, il apprend une carte interne profonde de la progression des maladies. Il apprend la « forme » de la maladie, et ne se contente pas de mémoriser des étiquettes.

Les résultats : Un meilleur regroupement

Les chercheurs ont testé ce nouveau modèle sur des données réelles (incluant des patients en soins intensifs et des enfants ayant des problèmes de gestion du poids) et l'ont comparé aux meilleurs modèles existants (comme STraTS et DuETT).

De meilleurs « Clubs » : Lorsqu'ils ont utilisé la carte interne du modèle pour regrouper les patients, les groupes étaient beaucoup plus serrés et distincts.
- La métrique : Ils ont utilisé un score appelé le Score de Silhouette. Considérez cela comme un score de « qualité de regroupement ». Triplet-Mamba a obtenu les scores les plus élevés, ce qui signifie que les patients de chaque groupe étaient très similaires entre eux et très différents des patients des autres groupes.
De meilleures prédictions : Le modèle était également légèrement meilleur pour prédire les issues (comme la mortalité ou la perte de poids) que la concurrence.
Stabilité : Les groupes trouvés par le modèle étaient stables. Si vous donniez au modèle des données légèrement différentes, il trouvait toujours les mêmes groupes. Cela suggère que les groupes sont des motifs réels, et non de simples bruits aléatoires.

Ce qu'il faut retenir

L'article affirme qu'en passant de modèles « quadratiques » (qui deviennent lents et désordonnés avec des données longues) à des modèles Mamba « linéaires », et en traitant les données comme des triplets flexibles plutôt que comme des grilles rigides, ils ont créé un système qui comprend bien mieux les historiques de patients longs et désordonnés. Cela conduit à des moyens plus précis de regrouper les patients, ce qui est la première étape vers la médecine personnalisée.

Ce que l'article ne prétend PAS :

Il ne prétend pas que cela est actuellement utilisé dans les hôpitaux pour traiter les patients aujourd'hui.
Il ne prétend pas que le modèle peut lire du texte médical (comme des notes de médecins) ou regarder des radiographies pour l'instant (il se concentre actuellement sur les chiffres et les horodatages).
Il ne promet pas que cela guérira les maladies, mais seulement que cela améliore les outils de regroupement et de prédiction utilisés par les chercheurs.

Résumé Technique : Amélioration de la sous-typologie des patients sur des données longitudinales à l'aide de représentations issues d'une architecture basée sur Mamba

Définition du Problème
La sous-typologie efficace des patients — le regroupement de patients partageant des trajectoires de progression de maladies communes — est cruciale pour la médecine de précision, mais reste un défi en raison de la nature intrinsèque des données des dossiers de santé électroniques (DSE). Les dossiers cliniques se caractérisent par des données manquantes, une extrême parcité et des intervalles d'échantillonnage irréguliers. Bien que les modèles basés sur les Transformers aient montré un certain succès dans la prédiction clinique, leur complexité computationnelle quadratique ( $O(L^2)$ ) crée un goulot d'étranglement pour le traitement de longs historiques de patients. Cette limitation force les chercheurs à tronquer des données précieuses ou à adopter des méthodes de discrétisation coûteuses en calcul (par exemple, le binning), ce qui peut masquer les transitions subtiles dans l'état d'un patient, pourtant vitales pour identifier des phénotypes cliniques robustes.

Méthodologie : Triplet-Mamba
Pour relever ces défis, les auteurs proposent Triplet-Mamba, une architecture auto-supervisée conçue pour l'apprentissage de représentations longitudinales. Le modèle passe des architectures traditionnelles de type Transformer à une architecture basée sur Mamba utilisant un modèle d'espace d'état (SSM) sélectif. Ce changement permet une complexité en temps linéaire ( $O(L)$ ), permettant au modèle de traiter de vastes trajectoires de patients sans dépasser les contraintes de mémoire.

Les composantes clés de la méthodologie incluent :

Représentation d'entrée par Triplet : Contrairement aux méthodes antérieures qui discrétisent le temps, Triplet-Mamba gère nativement l'échantillonnage irrégulier. Il encode chaque observation sous la forme d'un triplet $(t, f, v)$ , représentant le temps, la caractéristique et la valeur. Ceux-ci sont projetés dans un espace latent à l'aide d'un module d'Embedding de Triplet Initial, qui combine des plongements appris pour la variable, la valeur continue et le temps continu via des réseaux de propagation avant (FFN).
Encodage Contextuel (Blocs Mamba) : Les embeddings initiaux passent par un module d'Embedding de Triplet Contextuel composé de blocs Mamba empilés. Ces blocs utilisent la normalisation RMS, des projections linéaires et le SSM pour filtrer les informations pertinentes, agissant comme un filtre temporel continu efficace adapté aux taux d'échantillonnage non uniformes.
Auto-attention de Fusion : Un module d'auto-attention de fusion agrège les embeddings contextuels des blocs Mamba pour générer une représentation de série temporelle à longueur fixe. Celle-ci est concaténée avec les embeddings démographiques statiques pour former la représentation finale du patient.
Stratégie d'Entraînement : Le modèle emploie une approche d'entraînement en deux phases :
- Pré-entraînement Auto-supervisé : Le modèle apprend des représentations via un objectif de prévision sur un ensemble de données plus large, prédisant les valeurs futures masquées à l'aide d'une perte d'erreur quadratique moyenne (MSE) masquée. Cela permet au modèle d'apprendre des espaces latents structurés capturant une véritable progression de la maladie sans dépendre uniquement de labels spécifiques aux tâches.
- Ajustement Fin (Fine-tuning) : Les représentations apprises sont adaptées pour des tâches en aval (classification binaire ou sous-typologie) à l'aide d'une couche dense avec une activation sigmoïde et une perte d'entropie croisée.

Contributions Clés
L'article expose trois contributions principales :

Architecture Novatrice : L'introduction de Triplet-Mamba, qui exploite l'efficacité de Mamba pour capturer des dynamiques de santé à longue portée qui dépassent les limites de contexte des modèles Transformers.
Représentation d'Entrée Spécialisée : La conception d'un schéma d'embedding qui préserve les informations temporelles fines en encodant directement les horodatages continus et les valeurs mesurées, évitant ainsi la perte d'information associée à la discrétisation.
Pipeline de Sous-typologie : Un pipeline complet qui utilise la prévision auto-supervisée pour apprendre des représentations de séries temporelles de patients, qui sont ensuite catégorisées en sous-types significatifs à l'aide de techniques de clustering standards (K-means, Clustering Spectral, GMM).

Résultats Expérimentaux
Les auteurs ont évalué Triplet-Mamba sur trois jeux de données : le PhysioNet 2012 (prédiction de la mortalité), MIMIC-IV (prédiction de la mortalité) et un jeu de données privé de Gestion du Poids Pédiatrique.

Performance Prédictive : Triplet-Mamba a obtenu des résultats de pointe ou compétitifs dans les tâches de classification binaire. Il a surpassé les modèles de référence (STraTS, EHR-Mamba, DuETT) sur MIMIC-IV et le jeu de données Pédiatrique, réalisant une augmentation de 1,7 % de l'AUROC sur MIMIC-IV et de 2,8 % sur la tâche de perte de poids pédiatrique. Sur PhysioNet 2012, il a performé de manière comparable au meilleur modèle de référence (DuETT).
Qualité de la Sous-typologie : Dans les tâches de clustering non supervisé, les représentations apprises par Triplet-Mamba ont systématiquement produit des scores de Silhouette plus élevés sur tous les jeux de données et méthodes de clustering par rapport aux modèles de référence. Pour le jeu de données Pédiatrique, où la vérité terrain était définie par les classes d'obésité, Triplet-Mamba a obtenu l'Indice de Rand Ajusté (ARI) le plus élevé, indiquant un meilleur alignement avec les classifications cliniques.
Stabilité : L'analyse de stabilité par bootstrap a démontré que les sous-types découverts par Triplet-Mamba étaient hautement cohérents (indice de Jaccard moyen de 0,814), surpassant nettement les modèles de référence et dépassant le seuil de phénotypage clinique stable.
Études d'Ablation : La suppression de l'embedding de triplet, de la couche d'attention de fusion ou de la phase de pré-entraînement auto-supervisé a entraîné des baisses de performance constantes, confirmant que la synergie entre ces composantes est essentielle au succès du modèle.

Signification et Revendications
Les auteurs affirment que Triplet-Mamba démontre qu'une sous-typologie efficace des patients repose sur l'apprentissage de représentations scalables et temporellement expressives qui s'alignent sur la structure des données DSE longitudinales. En privilégiant les modèles de séquences en temps linéaire et les objectifs auto-supervisés, l'étude montre que de longues trajectoires de patients irrégulières peuvent être modélisées sans sacrifier la faisabilité computationnelle ou la fidélité clinique.

Le travail souligne qu'un apprentissage de représentations robuste, soutenu par des encodages d'événements fondés sur des principes et une prévision auto-supervisée, produit des espaces latents qui permettent des sous-types de patients plus cohérents et cliniquement significatifs. Les auteurs positionnent la sous-typologie non pas simplement comme un exercice de prédiction, mais comme un problème fondamental de l'apprentissage automatique en santé, piloté par la représentation. Ils notent que bien que l'implémentation actuelle se concentre sur les lectures de laboratoire et les signes vitaux, l'architecture est conçue pour être extensible afin d'inclure les procédures, les diagnostics et d'autres modalités dans des travaux futurs.