ARMA-C3: A Contrastive ARMA Convolutional Framework for Unsupervised and Semi-supervised Classification

Resumen Técnico de ARMA-C3: Un Marco Convolutivo ARMA Contrastivo

Enunciado del Problema

La identificación precisa y temprana de trastornos neurodegenerativos y médicos sigue siendo un desafío debido a la escasez de datos etiquetados, la complejidad de los patrones de imagen y modalidades de alta dimensión y ruidosas (por ejemplo, resonancia magnética de difusión, ultrasonido, rayos X). Los enfoques tradicionales de aprendizaje automático a menudo tratan a los sujetos o imágenes como instancias independientes, ignorando información relacional crucial y estructuras a nivel de sujeto que pueden indicar la progresión de la enfermedad. Además, los métodos existentes de Redes Neuronales de Grafos (GNN) en entornos biomédicos dependen predominantemente del aprendizaje supervisado, requiriendo grandes cantidades de datos etiquetados costosos, o no logran explotar plenamente las estructuras subyacentes de los datos en regímenes no supervisados y semi-supervisados. Los métodos actuales basados en grafos a menudo luchan por preservar simultáneamente las estructuras de cohorte a nivel de comunidad y hacer cumplir representaciones de sujetos invariantes a la augmentación bajo una construcción de grafos ruidosa.

Metodología

Los autores proponen ARMA-C3, un marco unificado de aprendizaje de grafos no supervisado y semi-supervisado diseñado para la clasificación de nodos. El marco integra tres componentes principales: aprendizaje contrastivo, convolución ARMA (Media Móvil Auto-regresiva) y regularización de corte de grafos.

1. Construcción y Preprocesamiento del Grafo:

   • Extracción de Características: Para los conjuntos de datos de resonancia magnética de difusión (dMRI) (ADNI, NIFD), el método extrae mapas de Anisotropía Fraccional (FA), los registra en un atlas de sustancia blanca y construye descriptores basados en histogramas a partir de Regiones de Interés (ROI) neuroanatómicamente relevantes predefinidas. Para conjuntos de datos basados en imágenes (BreastMNIST, PneumoniaMNIST, Ultrasonido Hepático), las características se extraen utilizando espaldas (backbones) preentrenadas congeladas (ViT-DINO para ultrasonido, ResNet-18 para rayos X) para evitar el sobreajuste en regímenes de bajos datos.
   • Formación del Grafo: Los sujetos se modelan como nodos. Se construye un grafo a nivel de sujeto donde las aristas representan la similitud inter-sujeto, calculada mediante la similitud del coseno de los vectores de características. Se aplica un umbral $\alpha$ para espaciar la matriz de adyacencia, actuando como un mecanismo implícito de eliminación de ruido.

2. Componentes Arquitectónicos:

   • Convolución ARMA: El marco emplea redes neuronales convolucionales de grafos basadas en ARMA. A diferencia de las GCN estándar, las capas ARMA utilizan pilas de filtros recursivos para aproximar convoluciones espectrales de grafos. Esto permite respuestas de frecuencia flexibles, un mejor control sobre el aplastamiento excesivo (oversquashing) mediante el refinamiento iterativo de mensajes, y la captura de dependencias de grafos tanto locales como de largo alcance.
   • Regularización Estructural (Corte de Grafos/Modularidad): Para evitar la mezcla de características y el suavizado excesivo (donde las incrustaciones de diferentes clústeres se fusionan), el modelo incorpora la maximización de la modularidad. Esto impone restricciones explícitas en las asignaciones de clústeres suaves, fomentando conexiones fuertes dentro de las comunidades y conexiones débiles entre ellas. Un regularizador de equilibrio evita el colapso de todos los nodos en un solo clúster.
   • Aprendizaje Contrastivo (MERIT): El marco adopta el enfoque de la Red Siamesa Contrastiva Multiescala (MERIT). Hace cumplir la consistencia a través de múltiples vistas aumentadas del mismo grafo utilizando un paradigma maestro-estudiante (con un maestro de Promedio Móvil Exponencial). Esto asegura que las representaciones aprendidas sean invariantes al ruido de características locales y a las perturbaciones estructurales globales.

3. Objetivo de Optimización:
   El modelo se entrena optimizando conjuntamente una pérdida de regularización estructural ($L_{struct}$) y una pérdida contrastiva ($L_{con}$). En entornos semi-supervisados, se añade una pérdida de entropía cruzada supervisada ($L_{sup}$) para los nodos etiquetados. El objetivo total es:
   $$L = L_{struct} + \lambda_{con} L_{con} \quad (\text{no supervisado})$$
   $$L_{total} = \lambda_{con} L_{con} + L_{sup} + \lambda_{struct} L_{struct} \quad (\text{semi-supervisado})$$

Contribuciones Clave

1. Marco Unificado: El artículo introduce una formulación conjunta novedosa que optimiza simultáneamente la regularización estructural basada en modularidad y la consistencia contrastiva multivista dentro de un único objetivo. Se afirma que este acoplamiento es único en el contexto del aprendizaje de grafos de poblaciones biomédicas, abordando la brecha donde los métodos anteriores trataban estos componentes de forma independiente.
2. Agrupamiento No Supervisado Robusto: El marco realiza agrupamiento de nodos completamente no supervisado sin depender de etiquetas diagnósticas. Descubre grupos de sujetos estables, permitiendo una clasificación robusta de enfermedades en escenarios del mundo real caracterizados por escasez de etiquetas y un desequilibrio de clases severo.
3. Generalización Cross-Modal: El método demuestra una fuerte adaptabilidad a través de modalidades biomédicas fundamentalmente diferentes, incluida la resonancia magnética de difusión (neuroimagen), ultrasonido de mama, ultrasonido hepático y rayos X de tórax.
4. Ingeniería de Características Clínicas: Para los datos de dMRI, los autores construyen una representación compacta utilizando ROIs informadas clínicamente (por ejemplo, cuerpo calloso, fórnix) y distribuciones de FA basadas en histogramas, preservando información microestructural sensible a la enfermedad.

Resultados Experimentales

El marco se evaluó en cinco conjuntos de datos: ADNI (CN vs. MCI, CN vs. AD), NIFD (Demencia Frontotemporal), BreastMNIST, PneumoniaMNIST y un conjunto de datos de Ultrasonido Hepático.

• Rendimiento No Supervisado: ARMA-C3 logró un rendimiento competitivo o superior en comparación con técnicas de agrupamiento clásicas (K-Means, SpectralNet), agrupamiento de grafos de última generación (MAGI, TokenCut) y espaldas (backbones) GNN estándar (GCN, GAT). Cabe destacar que logró mejoras estadísticamente significativas sobre MAGI en todos los conjuntos de datos (por ejemplo, puntuación F1 de 0.786 frente a 0.778 en CN vs. MCI; 0.841 frente a 0.790 en BreastMNIST).
• Rendimiento Semi-supervisado: Utilizando solo el 10% de datos etiquetados, ARMA-C3 superó consistentemente a los clasificadores tradicionales (SVC, Random Forest) y a otros métodos semi-supervisados basados en grafos (APPNP, JacobiConv). Mantuvo equilibrios balanceados entre precisión y recuperación, lo cual es crítico para el cribado de enfermedades donde los falsos negativos son costosos.
• Estudios de Ablación: Los experimentos confirmaron que:
  • Una resolución de bins de histograma más fina (20 bins) es crucial para distinguir diferencias microestructurales sutiles en la enfermedad en etapas tempranas.
  • La elección de la espalda de características importa (ViT-DINO superó a ResNet-18 en ultrasonido, mientras que ResNet-18 fue ligeramente mejor en rayos X).
  • Umbrales de espaciamiento de grafos moderados ($\alpha$) y pesos de pérdida contrastiva ($\lambda_{con}$) producen el mejor equilibrio entre preservación estructural y supresión de ruido.
  • Las incrustaciones aprendidas preservan la geometría intrínseca de los datos incluso bajo una reducción de dimensionalidad agresiva (PCA), a diferencia de las características crudas.

Significado y Reclamaciones

El artículo afirma que ARMA-C3 ofrece un marco unificado y clínicamente relevante para el análisis de datos biomédicos, particularmente en escenarios donde la anotación es costosa o los datos están desequilibrados. Al modelar las relaciones inter-sujeto y aprovechar el filtrado espectral con consistencia contrastiva, el método aprende representaciones estables, bien separadas y robustas.

Los autores posicionan a ARMA-C3 como una herramienta de pre-cribado eficiente en etiquetas para pipelines clínicos (por ejemplo, estudios de cohorte de dMRI, triaje por ultrasonido). Su objetivo es reducir la carga de la anotación manual mientras mantiene una separación de subgrupos clínicamente significativa. La capacidad del marco para generalizar a través de modalidades de imagen heterogéneas sugiere su potencial como una herramienta versátil para diversas tareas de imagen biomédica, superando las limitaciones de los enfoques específicos de modalidad o puramente supervisados.

Limitaciones Reconocidas: Los autores señalan que el marco es sensible a los hiperparámetros de construcción del grafo (específicamente el umbral de espaciamiento $\alpha$), requiere un ajuste específico del conjunto de datos y actualmente emplea una estrategia de construcción de grafos transductiva estática que requiere reconstrucción cuando se introducen nuevos sujetos. Se planea trabajo futuro para abordar el modelado multiclase y el aprendizaje de grafos inductivo.