HamVision: Hamiltonian Dynamics as Inductive Bias for Medical Image Analysis

Resumen Técnico: HamVision

1. Problema

El análisis de imágenes médicas abarca tareas diversas, desde la segmentación a nivel de píxel hasta la clasificación a nivel de imagen. Aunque las arquitecturas actuales (como U-Net para segmentación y ResNet/Transformers para clasificación) han logrado buenos resultados, dependen principalmente de la capacidad del modelo para aprender transformaciones genéricas de características a partir de los datos, sin incorporar priors estructurales específicos.

• Limitación actual: Los modelos existentes carecen de una inductiva bias (sesgo inductivo) que explícitamente modele la naturaleza de las señales espaciales, como la detección de bordes, la textura y la saliencia, de manera intrínseca y sin supervisión explícita para cada una de estas propiedades.
• Necesidad: Se requiere un marco unificado que pueda extraer representaciones discriminativas fundamentales (contenido, gradientes espaciales y mapas de saliencia) utilizando principios físicos, reduciendo al mismo tiempo la complejidad paramétrica.

2. Metodología: HamVision

El núcleo de HamVision es el uso del oscilador armónico amortiguado como un bloque de cuello de botella (bottleneck) estructurado. En lugar de aprender transformaciones arbitrarias, el modelo fuerza a las características a evolucionar según la dinámica de un sistema físico.

A. Fundamentos Físicos y Descomposición del Espacio de Fases
El sistema modela una partícula unitaria con posición $q$ y momento $p$, sujeta a amortiguamiento $\nu$ y fuerza externa $u(t)$. La dinámica se describe mediante las ecuaciones de Hamilton:

• Posición ($q$): Representa el contenido de la señal filtrada.
• Momento ($p = \dot{q}$): Representa la tasa de cambio espacial (gradiente). En el contexto de imágenes, esto codifica naturalmente la información de bordes y texturas, ya que el momento es alto en transiciones y bajo en regiones homogéneas.
• Energía ($H = \frac{1}{2}(q^2 + p^2)$): Un mapa de saliencia escalar y sin parámetros que integra tanto el contenido como los gradientes, indicando regiones de alta excitación local.

Estas tres representaciones emergen de la dinámica misma, no de la supervisión.

B. Arquitectura del Modelo
HamVision comparte un codificador y un cuello de botella Hamiltoniano, pero utiliza cabezales específicos para cada tarea:

1. Codificador Compartido: Utiliza bloques ConvNeXt para extraer características iniciales.
2. Cuello de Botella Hamiltoniano:
   • Procesa las características a través de dos caminos paralelos: un bloque ConvNeXt (flujo de gradiente fiable) y un banco de osciladores (procesamiento estructurado por física).
   • Un mecanismo de puerta (gate) aprendido fusiona ambos caminos.
   • El banco de osciladores se implementa mediante un escaneo paralelo en cuatro direcciones (izquierda-derecha, derecha-izquierda, arriba-abajo, abajo-arriba) para capturar información espacial bidimensional.
   • Produce tres salidas estructuradas: características fusionadas ($f$), tensor de momento ($p$) y mapa de energía ($H_{map}$).

C. Cabezales Específicos de Tarea

• HamSeg (Segmentación):
  • Utiliza un decodificador tipo U-Net.
  • Inyección de Momento: El tensor de momento se concatena en cada nivel del decodificador para proporcionar información de bordes multiescala.
  • Puertas de Energía: El mapa de energía se utiliza para "puertear" (gate) las conexiones de salto (skip connections), amplificando regiones salientes y suprimiendo el fondo.
• HamCls (Clasificación):
  • Reemplaza el decodificador por un cabezal de agrupamiento en el espacio de fases.
  • Las tres representaciones se agrupan globalmente (Global Average Pooling):
    • $q$ (contenido) $\to$ vector de características.
    • $|p|$ (actividad espacial/complexidad de textura) $\to$ vector de momento.
    • $H$ (nivel de excitación) $\to$ estadísticas no lineales.
  • Estos vectores se concatenan en un vector de 784 dimensiones para la clasificación final.

3. Contribuciones Clave

1. Innovación en Inductive Bias: Introduce un cuello de botella Hamiltoniano que genera representaciones estructuradas (posición, momento, energía) a partir de un único proceso dinámico, sin necesidad de módulos aprendidos adicionales para detectar bordes o saliencia.
2. Diseño de Cabezales Eficientes: Demuestra que las mismas representaciones físicas pueden adaptarse a tareas de segmentación (mediante inyección de gradientes y puertas) y clasificación (mediante agrupamiento estadístico) sin modificar el núcleo dinámico.
3. Rendimiento con Eficiencia Paramétrica: Logra resultados de vanguardia (SOTA) con solo 7–9 millones de parámetros, superando significativamente a modelos basados en Transformers o State-Space Models (SSM) que suelen tener entre 16M y 105M de parámetros.
4. Interpretabilidad Intrínseca: Proporciona evidencia diagnóstica de que las salidas del oscilador tienen significados físicos verificables (ej. el momento siempre codifica un gradiente interior > borde > exterior) que surgen puramente de la dinámica, sin supervisión explícita para estas propiedades.

4. Resultados Experimentales

El modelo se evaluó en 10 benchmarks de imágenes médicas que abarcan 5 modalidades (dermatoscopía, ultrasonido, MRI, microscopía de células sanguíneas, CT).

• Segmentación (HamSeg):

  • ISIC 2018: 89.38% Dice (SOTA).
  • ISIC 2017: 88.40% Dice (SOTA).
  • TN3K (Tiroides): 87.05% Dice (SOTA).
  • ACDC (Cardíaco): 92.40% Dice (SOTA, superando a FreqConvMamba en +2.61%).
  • Nota: Superó a la mayoría de las líneas base con una fracción de los parámetros.

• Clasificación (HamCls):

  • BloodMNIST: 98.85% de precisión (SOTA, superando a MedMamba-S).
  • PathMNIST: 96.65% de precisión (SOTA, superando a MedMamba-B).
  • Resultados competitivos en DermaMNIST, BreastMNIST, OrganSMNIST y RetinaMNIST.

• Análisis de Diagnóstico:

  • Confirmó que el momento ($p$) detecta consistentemente bordes y texturas.
  • El mapa de energía ($H$) se correlaciona fuertemente con regiones discriminativas.
  • La puerta de aprendizaje converge a un uso equilibrado (~54%) del camino del oscilador, validando que no es un componente pasivo.

5. Significado e Impacto

El trabajo de HamVision es significativo por varias razones:

• Unificación Física y Aprendizaje Profundo: Valida que las dinámicas hamiltonianas (típicamente usadas en MCMC o sistemas físicos) son una base práctica y potente para la visión por computadora, proporcionando representaciones que los modelos puramente aprendidos deben descubrir desde cero.
• Eficiencia y Generalización: Demuestra que incorporar priors físicos estructurales permite lograr un rendimiento superior con una fracción de los parámetros, lo cual es crucial en el dominio médico donde los datos son limitados y la eficiencia computacional es vital.
• Interpretabilidad: A diferencia de las "cajas negras" de los Transformers, HamVision ofrece salidas intermedias con significado físico claro (bordes, energía, contenido), facilitando la confianza clínica y el diagnóstico.
• Conexión Teórica: Conecta los avances recientes en modelos de espacio de estado (como Mamba-3) con la interpretación física de los estados complejos, mostrando que la descomposición en espacio de fases es esencial tanto para el seguimiento de estados como para el análisis visual.

En conclusión, HamVision establece que la dinámica del oscilador amortiguado es un priors inductivo robusto para el análisis de imágenes médicas, capaz de capturar la esencia de la variación espacial, la textura y la saliencia de manera eficiente y interpretable.