🤖 machine learning

Improving Patient Subtyping on Longitudinal Data using Representations from Mamba-based Architecture

Este artículo propone un modelo basado en Mamba con aprendizaje autosupervisado que aprende representaciones efectivas a partir de datos irregulares longitudinales de registros electrónicos de salud para mejorar significativamente la subtipificación de pacientes y los resultados en medicina de precisión en comparación con los modelos base existentes.

Autores originales: Md Mozaharul Mottalib, Rahmatollah Beheshti

Publicado 2026-06-30

📖 5 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Md Mozaharul Mottalib, Rahmatollah Beheshti

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

La visión general: Clasificar pacientes como un bibliotecario

Imagine un hospital como una biblioteca masiva donde cada paciente tiene un "libro" de su historial médico. Estos libros son desordenados. A algunos les faltan páginas, otros están escritos en diferentes idiomas y las entradas están dispersas aleatoriamente en el tiempo (como un paciente que se hace un análisis de sangre un lunes, una radiografía tres semanas después y un chequeo seis meses después de eso).

Los médicos necesitan agrupar a estos pacientes en "clubes" o subtipos basados en cómo progresa sus enfermedades. Esto ayuda a tratar a las personas de manera más precisa. Sin embargo, clasificar estos libros desordenados e irregulares es increíblemente difícil para las computadoras.

El problema: El cuello de botella "cuadrático"

El artículo explica que los modelos de computadora anteriores (llamados Transformers) eran como bibliotecarios que intentaban leer cada una de las páginas de cada libro contra cada otra página para encontrar similitudes.

La analogía: Si tienes 10 libros, es fácil compararlos todos. Pero si tienes 1,000 libros, el bibliotecario tiene que hacer un millón de comparaciones. Si tienes 10,000 libros, tienen que hacer 100 millones de comparaciones. Esto se llama complejidad cuadrática ( $O(L^2)$ ).
El resultado: Para evitar que la computadora colapse, estos modelos antiguos tenían que desechar historiales de pacientes largos o cortarlos en fragmentos pequeños y rígidos (como forzar una historia larga en un resumen de 50 palabras). Esto significaba que perdían los patrones sutiles y a largo plazo de cómo se desarrolla realmente una enfermedad.

La solución: El tren "Mamba"

Los autores construyeron un nuevo modelo llamado Triplet-Mamba. En lugar de un bibliotecario comparando cada página con cada otra página, utilizaron una arquitectura Mamba.

La analogía: Piense en Mamba como un tren de alta velocidad que recorre la historia del paciente. No se detiene a comparar cada estación con todas las demás estaciones. En su lugar, se mueve linealmente (un paso a la vez), recordando el contexto importante a medida que avanza. Esto es complejidad lineal ( $O(L)$ ).
Por qué es importante: Puede manejar el historial de vida completo de un paciente (incluso si abarca años) sin que la computadora se quede sin memoria. Es rápido y eficiente.

Cómo maneja los datos desordenados: El sistema "Triplet"

Los datos médicos reales son irregulares. Un paciente puede tener una lectura de temperatura a las 2:00 PM y un análisis de sangre a las 4:30 PM del día siguiente. Los modelos antiguos a menudo forzaban estos datos en una cuadrícula ordenada (como una hoja de cálculo), lo que pierde el tiempo exacto.

Triplet-Mamba trata cada pieza de datos como un Triplete:

Tiempo: Cuándo sucedió.
Característica: Qué era (por ejemplo, "Presión arterial").
Valor: Cuánto era (por ejemplo, "120").

La analogía: En lugar de forzar un diario desordenado en un calendario, el modelo lee el diario exactamente como fue escrito: "El martes, me sentí mareado (Tiempo: Martes, Característica: Mareo, Valor: Alto)". Esto preserva la realidad exacta y desordenada de la vida del paciente.

El entrenamiento: Aprendiendo sin un profesor

El artículo describe un enfoque de Aprendizaje Automático No Supervisado (Self-Supervised).

La analogía: Imagine enseñar a un estudiante a entender una historia haciéndole leer un libro al que le falta la última página y pidiéndole que adivine qué sucede después. No se le está diciendo la respuesta mediante un profesor; está aprendiendo la estructura de la historia al intentar predecir el futuro.
En el artículo: El modelo observa los registros pasados de un paciente e intenta predecir sus futuros resultados de laboratorio. Al hacer esto millones de veces, aprende un mapa interno profundo de cómo progresan las enfermedades. Aprende la "forma" de la enfermedad, no solo memoriza etiquetas.

Los resultados: Mejor agrupación

Los investigadores probaron este nuevo modelo con datos del mundo real (incluyendo pacientes de la UCI y niños con problemas de control de peso) y lo compararon con los mejores modelos existentes (como STraTS y DuETT).

Mejores "Clubes": Cuando usaron el mapa interno del modelo para agrupar pacientes, los grupos fueron mucho más compactos y distintos.
- La métrica: Utilizaron una puntuación llamada Coeficiente de Silueta (Silhouette Score). Piense en esto como una puntuación de "calidad de agrupación". Triplet-Mamba obtuvo las puntuaciones más altas, lo que significa que los pacientes en cada grupo eran muy similares entre sí y muy diferentes de los pacientes en otros grupos.
Mejores predicciones: El modelo también fue ligeramente mejor prediciendo resultados (como mortalidad o pérdida de peso) que la competencia.
Estabilidad: Los grupos que encontró el modelo fueron estables. Si se le daba al modelo datos ligeramente diferentes, seguía encontrando los mismos grupos. Esto sugiere que los grupos son patrones reales, no solo ruido aleatorio.

La conclusión

El artículo afirma que al cambiar de modelos "cuadráticos" (que se vuelven lentos y desordenados con datos largos) a modelos Mamba "lineales", y al tratar los datos como tripletos flexibles en lugar de cuadrículas rígidas, crearon un sistema que entiende mucho mejor los historiales de pacientes largos y desordenados. Esto conduce a formas más precisas de agrupar pacientes, que es el primer paso hacia la medicina personalizada.

Lo que el artículo NO afirma:

No afirma que esto se esté utilizando actualmente en los hospitales para tratar pacientes hoy en día.
No afirma que el modelo pueda leer texto médico (como notas de doctores) o mirar radiografías todavía (actualmente se centra en números y marcas de tiempo).
No promete que esto vaya a curar enfermedades, solo que mejora las herramientas de agrupación y predicción utilizadas por los investigadores.

Resumen Técnico: Mejora de la Subtipificación de Pacientes en Datos Longitudinales mediante Representaciones de una Arquitectura basada en Mamba

Definición del Problema
La subtipificación efectiva de pacientes —agrupar pacientes con trayectorias de progresión de la enfermedad compartidas— es crítica para la medicina de precisión, pero sigue siendo un desafío debido a la naturaleza inherente de los datos de Registros Electrónicos de Salud (EHR). Los registros clínicos se caracterizan por la ausencia de datos, extrema dispersión e intervalos de muestreo irregulares. Aunque los modelos basados en Transformers han mostrado éxito en la predicción clínica, su complejidad computacional cuadrática ( $O(L^2)$ ) crea un cuello de botella para el procesamiento de historias clínicas extensas. Esta limitación obliga a los investigadores a truncar datos valiosos o a adoptar métodos de discretización computacionalmente prohibitivos (por ejemplo, el uso de contenedores o binning), lo que puede ocultar transiciones sutiles en el estado de un paciente que son vitales para identificar fenotipos clínicos robustos.

Metodología: Triplet-Mamba
Para abordar estos desafíos, los autores proponen Triplet-Mamba, una arquitectura autosupervisada diseñada para el aprendizaje de representaciones longitudinales. El modelo transiciona de los tradicionales backbones de Transformer a una arquitectura basada en Mamba que utiliza un Modelo de Espacio de Estados (SSM) selectivo. Este cambio permite una complejidad de tiempo lineal ( $O(L)$ ), lo que permite al modelo procesar trayectorias de pacientes extensas sin exceder las restricciones de memoria.

Los componentes principales de la metodología incluyen:

Representación de Entrada por Tripletas (Triplet Input Representation): A diferencia de los métodos previos que discretizan el tiempo, Triplet-Mamba maneja el muestreo irregular de forma nativa. Embebe cada observación como una tripleta $(t, f, v)$ , que representa el tiempo, la característica y el valor. Estos se mapean en un espacio latente utilizando un módulo de Embedding de Tripleta Inicial (Initial Triplet Embedding), el cual combina embeddings aprendidos para la variable, el valor continuo y el tiempo continuo mediante Redes de Propagación hacia Adelante (FFNs).
Codificación Contextual (Bloques Mamba): Los embeddings iniciales pasan a través de un módulo de Embedding de Tripleta Contextual (Contextual Triplet Embedding) compuesto por bloques Mamba apilados. Estos bloques utilizan normalización RMS, proyecciones lineales y el SSM para filtrar la información relevante, actuando como un filtro eficiente de tiempo continuo adecuado para tasas de muestreo no uniformes.
Atención de Fusión (Fusion Self-attention): Un módulo de Auto-atención de Fusión (Fusion Self-attention) agrega los embeddings contextuales de los bloques Mamba para generar una representación de serie temporal de longitud fija. Esta se concatena con los embeddings demográficos estáticos para formar la representación final del paciente.
Estrategia de Entrenamiento: El modelo emplea un enfoque de entrenamiento de dos fases:
- Pre-entrenamiento Autosupervisado: El modelo aprende representaciones mediante un objetivo de pronóstico (forecasting) en un conjunto de datos más grande, prediciendo valores futuros enmascarados mediante una pérdida de Error Cuadrático Medio (MSE) enmascarada. Esto permite al modelo aprender espacios latentes estructurados que capturan la progresión real de la enfermedad sin depender únicamente de etiquetas específicas de la tarea.
- Ajuste Fino (Fine-tuning): Las representaciones aprendidas se adaptan para tareas posteriores (clasificación binaria o subtipificación) utilizando una capa densa con activación sigmoide y pérdida de entropía cruzada.

Contribuciones Clave
El artículo describe tres contribuciones primarias:

Arquitectura Novedosa: La introducción de Triplet-Mamba, que aprovecha la eficiencia de Mamba para capturar la dinámica de salud de largo alcance que excede los límites de contexto de los modelos Transformer.
Representación de Entrada Especializada: El diseño de un esquema de embedding que preserva la información temporal de grano fino al embeber directamente marcas de tiempo continuas y valores medidos, evitando la pérdida de información asociada con la discretización.
Pipeline de Subtipificación: Un proceso completo que utiliza el pronóstico autosupervisado para aprender representaciones de series temporales de pacientes, las cuales son posteriormente categorizadas en subtipos significativos utilizando técnicas de agrupamiento estándar (K-means, Clustering Espectral, GMM).

Resultos Experimentales
Los autores evaluaron Triplet-Mamba en tres conjuntos de datos: el público PhysioNet 2012 (predicción de mortalidad), MIMIC-IV (predicción de mortalidad) y un conjunto de datos privado de Gestión de Peso Pediátrico.

Desempeño Predictivo: Triplet-Mamba logró resultados de vanguardia o competitivos en tareas de clasificación binaria. Superó a los modelos de referencia (STraTS, EHR-Mamba, DuETT) en MIMIC-IV y en el conjunto de datos Pediátrico, logrando un aumento del 1.7% en AUROC en MIMIC-IV y un aumento del 2.8% en la tarea de pérdida de peso pediátrica. En PhysioNet 2012, tuvo un desempeño comparable al mejor modelo de referencia (DuETT).
Calidad de la Subtipificación: En tareas de agrupamiento (clustering) no supervisado, las representaciones aprendidas por Triplet-Mamba consistieron en puntuaciones de Silueta (Silhouette scores) más altas en todos los conjuntos de datos y métodos de agrupamiento en comparación con los modelos de referencia. Para el conjunto de datos Pediátrico, donde la verdad fundamental estaba definida por clases de obesidad, Triplet-Mamba alcanzó el Índice de Rand Ajustado (ARI) más alto, indicando una alineación superior con las clasificaciones clínicas.
Estabilidad: El análisis de estabilidad de Bootstrap demostró que los subtipos descubiertos por Triplet-Mamba fueron altamente consistentes (Índice de Jaccard medio de 0.814), superando significativamente a los modelos de referencia y excediendo el umbral para una fenotipificación clínica estable.
Estudios de Ablación: Eliminar el embedding de tripleta, la capa de atención de fusión o la fase de pre-entrenamiento autosupervisado resultó en descensos consistentes en el desempeño, confirmando que la sinergia entre estos componentes es esencial para el éxito del modelo.

Significancia y Reivindicaciones
Los autores afirman que Triplet-Mamba demuestra que una subtipificación de pacientes efectiva depende del aprendizaje de representaciones escalables y temporalmente expresivas que se alineen con la estructura de los datos longitudinales de EHR. Al priorizar modelos de secuencia de tiempo lineal y objetivos autosupervisados, el estudio muestra que las trayectorias de pacientes largas e irregulares pueden modelarse sin sacrificar la viabilidad computacional o la fidelidad clínica.

El trabajo enfatiza que el aprendizaje de representaciones robustas, apoyado por codificaciones de eventos con principios definidos y pronósticos autosupervisados, genera espacios latentes que permiten subtipos de pacientes más coherentes y clínicamente significativos. Los autores posicionan la subtipificación no solo como un ejercicio predictivo, sino como un problema fundacional de aprendizaje de representaciones en la atención médica. Señalan que, si bien la implementación actual se centra en lecturas de laboratorio y signos vitales, la arquitectura está diseñada para ser extensible e incluir procedimientos, diagnósticos y otras modalidades en trabajos futuros.