Towards a general-purpose foundation model for fMRI analysis

1. El Problema

El análisis de la Resonancia Magnética Funcional (fMRI) es fundamental para estudiar la función cerebral y diagnosticar trastornos neurológicos. Sin embargo, el campo actual enfrenta dos desafíos críticos:

• Falta de reproducibilidad y transferibilidad: Los métodos existentes dependen de pipelines de preprocesamiento complejos y diseños de modelos específicos para cada tarea, lo que dificulta la comparación entre estudios y la aplicación de modelos a nuevos contextos.
• Limitaciones de los enfoques actuales:
  • Los métodos basados en Regiones de Interés (ROI) proyectan los datos 4D en atlas predefinidos, lo que provoca una pérdida irreversible de información y sesgos estructurales.
  • Los métodos basados en Volumen (voxel-wise) que intentan procesar datos crudos 4D a menudo enfrentan cuellos de botella computacionales y dificultades para aprender representaciones informativas debido a la alta redundancia espacio-temporal de las señales fMRI (los voxels vecinos son muy similares, lo que hace que los Autoencoders enmascarados estándar fallen al no encontrar patrones complejos).

2. Metodología: NeuroSTORM

Los autores proponen NeuroSTORM (Neuroimaging Foundation Model with Spatial-Temporal Optimized and Representation Modeling), un modelo de base diseñado para aprender representaciones generalizables directamente de volúmenes fMRI 4D sin depender de atlas predefinidos.

Componentes Clave de la Arquitectura:

1. Backbone Shifted-Window Mamba (SWM):
   • Para manejar la alta dimensionalidad de los datos 4D (hasta $10^6$ voxels por escaneo) de manera eficiente, el modelo utiliza una arquitectura basada en Mamba (Modelos de Espacio de Estados).
   • Integra un mecanismo de Ventana Desplazada (Shifted-Window) que reduce la complejidad computacional de cuadrática a lineal, permitiendo capturar dependencias a largo plazo tanto espaciales como temporales sin exceder los límites de memoria de la GPU.
2. Módulo de Eliminación de Redundancia Espacio-Temporal (STRD):
   • Diseñado para abordar la redundancia inherente en los datos fMRI.
   • Durante el pre-entrenamiento, este módulo aplica una estrategia de dropout selectivo en voxels espaciales y temporales redundantes. Obliga al modelo a reconstruir la señal basándose en relaciones a largo plazo en lugar de depender de vecinos inmediatos triviales, mejorando así la robustez y la capacidad de aprendizaje de características inherentes.
3. Ajuste de Prompt Específico de Tarea (TPT):
   • Para la adaptación a tareas posteriores (fine-tuning), se utiliza una estrategia de Prompt Tuning.
   • Se introducen parámetros aprendibles específicos de la tarea (prompts) en la entrada del modelo, manteniendo los parámetros del backbone fijos. Esto permite una adaptación rápida con menos del 5% de parámetros entrenables, maximizando la eficiencia de datos y la transferencia.

Corpus de Entrenamiento:

El modelo se pre-entrenó en un corpus masivo de 28.65 millones de frames fMRI provenientes de más de 50,000 sujetos. Los datos provienen de tres grandes conjuntos de datos:

• UK Biobank (40,842 participantes).
• ABCD (9,449 niños).
• HCP (HCP-YA, HCP-A, HCP-D; más de 2,300 sujetos).
• El corpus abarca edades de 5 a 100 años, múltiples centros y protocolos de adquisición, asegurando una variación biológica y técnica amplia.

3. Contribuciones Clave

• Primer Modelo de Base General para fMRI: NeuroSTORM es un modelo diseñado para ser generalizable a través de diversos entornos experimentales y condiciones, unificando reproducibilidad y transferibilidad.
• Procesamiento Directo de Volumen 4D: A diferencia de los enfoques basados en ROI, NeuroSTORM procesa volúmenes 4D completos, preservando relaciones espacio-temporales de grano fino.
• Eficiencia Computacional y de Datos: La combinación de SWM y STRD permite el entrenamiento a gran escala, mientras que el TPT permite una adaptación eficiente en escenarios con escasez de datos.
• Benchmark Exhaustivo: Se estableció un nuevo estándar de evaluación que incluye cinco tareas posteriores diversas, desde predicción demográfica hasta diagnóstico clínico y re-identificación.
• Código Abierto: Se ha liberado un repositorio en GitHub que incluye herramientas de preprocesamiento, entrenadores y el modelo completo para fomentar la investigación reproducible.

4. Resultados

NeuroSTORM fue evaluado en cinco tareas posteriores y superó consistentemente a los métodos del estado del arte (tanto basados en ROI como en volumen, como SwiFT, BrainLM, Brain-JEPA, etc.):

1. Predicción de Edad y Género:
   • Logró una precisión de 93.28% en la clasificación de género (HCP-YA), superando a los mejores métodos basados en volumen (92.66%) y ROI (91.80%).
   • Redujo el Error Cuadrático Medio (MSE) en la predicción de edad a 7.0 en el conjunto ABCD, superando a los baselines existentes.
2. Predicción de Fenotipos:
   • Mostró una fuerte correlación (PCC) con fenotipos clínicos y cognitivos (ej. MMSE, ansiedad, depresión). En la tarea P01 (MMSE), alcanzó un PCC de 0.372, un 9.1% superior al mejor baseline de volumen.
3. Diagnóstico de Enfermedades:
   • Superó a todos los baselines en la detección de trastornos neurológicos y psiquiátricos (ADHD, esquizofrenia, MND).
   • En el conjunto MND (Esclerosis Lateral Amiotrófica), alcanzó una precisión del 86.50%, superando a SwiFT en 1.74%.
4. Re-identificación de fMRI:
   • En una tarea de recuperación de sujetos (closed-set), logró una precisión Rank-1 del 93.1% y un mAP del 92.4%, demostrando que las incrustaciones (embeddings) del modelo capturan firmas individuales robustas.
5. Clasificación de Estados (Task-fMRI):
   • Alcanzó una precisión general del 92.40% en la clasificación de 7 estados cognitivos diferentes (emociones, lenguaje, memoria, etc.), superando significativamente a los métodos basados en ROI.

Eficiencia de Etiquetas (Escasez de Datos):
NeuroSTORM demostró una gran robustez en escenarios con pocos datos. Incluso con solo el 10-30% de los datos de entrenamiento, el modelo mantuvo un rendimiento competitivo, degradándose mucho menos que los modelos existentes al reducir la cantidad de etiquetas.

5. Significado e Impacto

• Estandarización: NeuroSTORM ofrece un marco unificado que puede estandarizar el análisis de fMRI, reduciendo la variabilidad introducida por pipelines de preprocesamiento dispares.
• Aplicabilidad Clínica: Su capacidad para diagnosticar enfermedades y predecir fenotipos con alta precisión en cohortes clínicas reales (incluyendo datos de hospitales en EE. UU. y Australia) sugiere un alto potencial para su uso en entornos clínicos reales.
• Eficiencia Computacional: La arquitectura basada en Mamba permite procesar secuencias temporales largas y volúmenes completos con un uso de memoria de GPU significativamente menor que los transformadores tradicionales (7.46 GB vs 19.01 GB en pruebas de ajuste fino), haciendo viable el análisis de grandes cohortes.
• Futuro de la Neurociencia: Al aprender representaciones libres de ruido y generalizables, este modelo abre la puerta a nuevos descubrimientos sobre circuitos funcionales cerebrales y facilita la integración multimodal (ej. con DTI o EEG) en el futuro.

En resumen, NeuroSTORM representa un avance paradigmático en el análisis de neuroimagen, pasando de modelos específicos y fragmentados a una solución de base unificada, robusta y escalable.