NeuroMambaLLM: Dynamic Graph Learning of fMRI Functional Connectivity in Autistic Brains Using Mamba and Language Model Reasoning

Resumen Técnico: NeuroMambaLLM

Enunciado del Problema
El análisis actual de neuroimagen para el Trastorno del Espectro Autista (TEA) enfrenta dos limitaciones principales. En primer lugar, la mayoría de los métodos dependen de la Conectividad Funcional Estática (sFC), que agrupa los datos de fMRI en una única matriz de correlación. Este enfoque oscurece las dinámicas neuronales transitorias y las interacciones variables en el tiempo, que son críticas para comprender los trastornos del neurodesarrollo. En segundo lugar, aunque los Modelos de Lenguaje Grandes (LLM) ofrecen un razonamiento semántico potente, su integración con modelos de conectividad cerebral es incipiente. Los marcos existentes de "Cerebro a Texto" (por ejemplo, FCN-LLM, BrainLLM) suelen mapear matrices de conectividad estática a LLM, limitando el razonamiento a biomarcadores promedio en lugar de eventos temporales específicos. Además, los modelos de aprendizaje profundo para secuencias largas de fMRI a menudo sufren el costo computacional cuadrático de los Transformers o los problemas de olvido de las redes recurrentes, lo que hace poco práctico el modelado de extremo a extremo de series temporales largas y ruidosas.

Metodología
El artículo propone NeuroMambaLLM, un marco de extremo a extremo que cambia el paradigma del modelado de grafo a texto estático al modelado de Señal Latente Dinámica a Texto. La arquitectura consta de tres etapas acopladas:

1. Inferencia de Grafo Latente Dinámico (LGI):
   En lugar de utilizar matrices de correlación precalculadas o priores estructurales fijos, el modelo aprende la conectividad funcional resuelta en el tiempo directamente de las series temporales crudas dependientes del nivel de oxígeno en la sangre (BOLD). Un módulo diferenciable mapea las señales BOLD instantáneas a un espacio de características latente utilizando convoluciones 1D y atención auto-referida. La similitud par a par entre estas incrustaciones de nodos latentes genera una matriz de adyacencia variable en el tiempo ($G_t$), capturando el acoplamiento funcional instantáneo y las dependencias no lineales sin ventanas deslizantes heurísticas.

2. Modelado Temporal de Espacio de Estados Selectivo (Mamba):
   Los estados cerebrales filtrados por el grafo son procesados por una arquitectura Mamba, un Modelo de Espacio de Estados Selectivo (SSM). A diferencia de los Transformers, Mamba procesa las señales en tiempo lineal con respecto a la longitud de la secuencia, evitando el crecimiento cuadrático de la memoria. Emplea un mecanismo de escaneo selectivo consciente del hardware donde las matrices de transición de estado y proyección de entrada se generan como funciones deterministas de la entrada actual. Esto permite que el modelo seleccione adaptativamente la información temporal relevante, suprimiendo eficazmente los artefactos relacionados con el movimiento y el ruido fisiológico mientras captura dependencias de largo alcance en los datos de fMRI.

3. Alineación Multimodal con LLM:
   La secuencia resultante de estados temporales latentes se comprime en un conjunto fijo de "tokens de resumen cerebral". Estos tokens se proyectan en el espacio de incrustaciones de un modelo de lenguaje LLaMA-3-8B congelado. La alineación se logra mediante módulos de Adaptación de Bajo Rango (LoRA) insertados en las capas de atención del LLM, manteniendo el modelo base congelado para la eficiencia de parámetros. El LLM recibe estos tokens cerebrales concatenados con indicaciones de diagnóstico, lo que le permite realizar clasificación diagnóstica y generar informes textuales clínicamente significativos basados en los patrones temporales específicos de la entrada.

Contribuciones Clave

• Aprendizaje de Grafo Funcional Dinámico: Introducción de un codificador de extremo a extremo que infiere conectividad funcional adaptativa y resuelta en el tiempo directamente de señales BOLD crudas, capturando interacciones neuronales transitorias pasadas por alto por los análisis estáticos.
• Modelado Temporal Eficiente: Aplicación de la arquitectura de espacio de estados selectivo Mamba para modelar dependencias de largo alcance en fMRI con complejidad computacional lineal, suprimiendo adaptativamente el ruido sin el costo de los Transformers.
• Marco de Razonamiento LLM: Una estrategia de alineación novedosa que utiliza LoRA para proyectar grafos cerebrales dinámicos en el espacio de incrustaciones de un LLM congelado. Esto permite la clasificación diagnóstica conjunta y el razonamiento basado en lenguaje, produciendo explicaciones textuales interpretables en lugar de predicciones de caja negra.

Resultados Experimentales
Los experimentos se realizaron en el conjunto de datos Autism Brain Imaging Data Exchange (ABIDE I), utilizando datos de fMRI en reposo de 39 Regiones de Interés (ROIs) truncados a 100 puntos temporales.

• Rendimiento: NeuroMambaLLM logró una precisión de prueba del 72.12%, superando a métodos recientes de última generación, incluidos BoLT (71.28%), SwinT (68.59%) y enfoques basados en grafos estáticos como BrainGNN (69.31%).
• Métricas: El modelo demostró una precisión de 0.8022 y una puntuación F1 de 0.6931.
• Estudios de Ablación:
  • Reemplazar el grafo dinámico con una formulación estática ("Static MambaLLM") redujo la precisión al 66.50%, confirmando la necesidad de la inferencia de grafo adaptativa.
  • Congelar los parámetros del LLM sin adaptación LoRA ("Frozen MambaLLM") resultó en un rendimiento inferior (68.20%) en comparación con la versión ajustada con LoRA, validando el valor del ajuste fino ligero.
  • Las comparaciones de backbones temporales (GRU, TCN, Transformers, S4) mostraron que Mamba proporcionó el rendimiento más fuerte.

Significado y Afirmaciones
El artículo afirma que NeuroMambaLLM cierra la brecha entre los procesos neurobiológicos dinámicos y la viabilidad computacional. Su principal significado radica en avanzar más allá de las predicciones de "caja negra" hacia explicaciones clínicamente significativas. Al fundamentar las salidas del LLM en patrones neuronales causalmente relevantes y específicos en el tiempo, el marco proporciona informes interpretables que identifican interacciones atípicas (por ejemplo, en el surco temporal superior izquierdo y las regiones frontotemporales) consistentes con la neurobiología conocida del TEA.

Los autores enfatizan que el modelo de lenguaje no se introduce únicamente para maximizar la precisión de la clasificación, sino para apoyar la interpretación estructurada de patrones cerebrales dinámicos para expertos en el dominio. El modelo demuestra exitosamente que el aprendizaje de grafo latente dinámico combinado con el modelado de espacio de estados eficiente y el razonamiento LLM puede producir un rendimiento diagnóstico competitivo mientras ofrece un nivel de interpretabilidad (mediante resúmenes textuales generados y mapas de saliencia) que carecen los modelos estáticos. Se señala que el trabajo futuro se centrará en la generalización a través de conjuntos de datos adicionales y en el refinamiento de las restricciones de indicaciones para mitigar posibles alucinaciones.