Tabular LLMs for Interpretable Few-Shot Alzheimer's Disease Prediction with Multimodal Biomedical Data

Título: Tabular LLMs para la Predicción Interpretable de la Enfermedad de Alzheimer con Datos Biomédicos Multimodales (Few-Shot)

1. El Problema

El diagnóstico preciso de la Enfermedad de Alzheimer (EA) requiere el manejo de datos de biomarcadores tabulares (como los del marco AT[N]: amiloide, tau y neurodegeneración). Sin embargo, estos datos presentan desafíos únicos para la inteligencia artificial:

• Datos pequeños e incompletos: Las cohortes clínicas suelen tener un número limitado de muestras (filas) en comparación con la alta dimensionalidad de las características (columnas), y es común la presencia de valores faltantes.
• Limitaciones de los modelos actuales: Los métodos de aprendizaje profundo tradicionales a menudo fallan en superar a los algoritmos clásicos (como Random Forest o XGBoost) en conjuntos de datos pequeños debido a la sensibilidad al tamaño de la muestra y a los valores faltantes.
• Falta de interpretabilidad: Los modelos clásicos y de deep learning actúan como "cajas negras", ofreciendo poca información sobre qué biomarcadores específicos impulsan una predicción, lo cual es crítico en entornos clínicos.
• Desafío de los LLMs estándar: Aunque los Grandes Modelos de Lenguaje (LLMs) tienen capacidades de razonamiento, no están diseñados nativamente para entender la estructura de las tablas (donde el orden de las columnas es invariante) y suelen perder información estructural al convertir tablas en texto plano.

2. Metodología: TAP-GPT

Los autores proponen TAP-GPT (Tabular Alzheimer's Prediction GPT), un marco de modelo de lenguaje grande especializado en tablas, adaptado específicamente para la predicción de la EA.

• Arquitectura Base: Se construye sobre TableGPT2 (un modelo que combina un codificador semántico de tablas con un decodificador LLM basado en Qwen2.5-7B).
• Adaptación de Dominio:
  • Se utiliza Fine-tuning eficiente de parámetros (QLoRA) para adaptar el decodificador del modelo a la tarea de clasificación binaria (Alzheimer vs. Cognitivamente Normal) sin reentrenar todo el modelo.
  • El codificador de tablas preentrenado se mantiene fijo para preservar la representación estructural aprendida.
• Paradigma Few-Shot (In-Context Learning):
  • En lugar de entrenar desde cero, el modelo recibe un "prompt" que incluye una pequeña tabla con ejemplos de pacientes (etiquetados) y el paciente objetivo (sin etiqueta).
  • Se evalúan cuatro formatos de entrada: Zero-shot y Few-shot, en formatos Tabular (estructura de tabla preservada) y Serializado (texto plano).
• Datos Utilizados:
  • Se utilizaron datos del Alzheimer's Disease Neuroimaging Initiative (ADNI).
  • QT-PAD: 15 marcadores clínicos y covariables demográficas/genéticas.
  • Datos de Imagen: Resúmenes regionales de MRI estructural, PET de amiloide y PET de tau (68 regiones corticales + 4 subcorticales).
• Estrategias de Preprocesamiento:
  • Selección de Características: Se aplicó LASSO y ranking guiado por LLM para reducir la dimensionalidad en datos de imagen (de 72 regiones a 16 características clave) para mitigar la degradación del rendimiento por longitud de contexto.
  • Manejo de Valores Faltantes: El modelo se evalúa sin imputación, utilizando la capacidad del LLM para inferir a partir de datos incompletos directamente en el prompt.

3. Contribuciones Clave

• Primera Aplicación Sistemática: Es el primer estudio que aplica un LLM especializado en tablas a la predicción de biomarcadores multimodales de la EA.
• Generalización Multimodal: Validación del modelo en cuatro conjuntos de datos distintos (QT-PAD, PET de amiloide, PET de tau y MRI estructural), demostrando robustez más allá de un solo tipo de dato.
• Interpretabilidad Mejorada: Implementación de un mecanismo de "razonamiento paso a paso" (Chain-of-Thought) que genera salidas estructuradas (JSON) con la predicción, un puntaje de confianza y una explicación textual alineada con la biología de la EA.
• Robustez ante la Ausencia de Datos: Demostración de que TAP-GPT mantiene un rendimiento estable bajo datos faltantes simulados y reales sin necesidad de técnicas de imputación tradicionales.
• Estabilidad en Sistemas Multi-Agente: El modelo muestra mayor estabilidad que los LLMs generales bajo procesos de "auto-reflexión" (revisión de la propia predicción), lo que lo hace apto para flujos de trabajo clínicos iterativos.

4. Resultados Principales

• Rendimiento Predictivo:
  • En el conjunto de datos QT-PAD, TAP-GPT (especialmente en configuración Few-shot Tabular) superó a los modelos de aprendizaje automático tradicionales (Random Forest, XGBoost, SVM), a TabPFN (un modelo fundacional de tablas) y a LLMs de propósito general sin ajuste fino.
  • En datos de imagen, TAP-GPT fue competitivo o superior a los LLMs generales (como GPT-4.1-mini) y superó consistentemente a los modelos tradicionales en configuraciones few-shot.
  • La versión con interpretabilidad (que incluye razonamiento) mejoró aún más el rendimiento (F1 medio de 0.89 en QT-PAD).
• Impacto de la Selección de Características:
  • Para datos de imagen de alta dimensión, la selección de características (reducir a 16) fue crucial. Usar todas las 72 regiones degradó el rendimiento de los modelos basados en tablas, mientras que TAP-GPT con selección de características mantuvo su ventaja.
• Manejo de Datos Faltantes:
  • TAP-GPT mantuvo un rendimiento alto hasta un 40-50% de datos faltantes simulados, superando a los baselines clásicos que requieren imputación.
• Análisis de Estabilidad:
  • Bajo pruebas de auto-reflexión, TAP-GPT mantuvo su precisión, mientras que los LLMs generales (GPT-4.1-mini) sufrieron una caída significativa en el rendimiento, indicando que TAP-GPT es más robusto para sistemas de agentes colaborativos.

5. Significado e Impacto

Este trabajo marca un cambio de paradigma en la informática de la salud clínica:

• Puente entre Conocimiento y Datos: Demuestra que los LLMs especializados pueden integrar conocimiento previo biomédico con datos estructurados limitados, superando las limitaciones de los modelos puramente estadísticos en escenarios few-shot.
• Viabilidad Clínica: La capacidad de generar explicaciones clínicamente coherentes (ej. relacionando la atrofia del hipocampo con la clasificación) y de manejar datos incompletos sin preprocesamiento pesado hace que estos modelos sean candidatos viables para sistemas de apoyo a la decisión clínica (CDSS).
• Fundamento para Agentes Futuros: La estabilidad del modelo bajo iteración y su capacidad de razonamiento multimodal sientan las bases para futuros sistemas multi-agente donde diferentes "agentes expertos" (uno para MRI, otro para genética, etc.) colaboren para un diagnóstico integral y transparente.

En resumen, TAP-GPT valida que los modelos de lenguaje tabular adaptados pueden ofrecer una alternativa superior, interpretable y robusta a los métodos tradicionales para el diagnóstico temprano de la Enfermedad de Alzheimer.