HamVision: Hamiltonian Dynamics as Inductive Bias for Medical Image Analysis

1. Il Problema

L'analisi delle immagini mediche richiede l'estrazione di caratteristiche discriminative da immagini complesse e rumorose, dove le informazioni rilevanti possono risiedere in gradienti sottili ai confini dei tessuti, pattern testurali o distribuzioni spaziali di intensità.
Le architetture attuali seguono paradigmi specializzati:

• Segmentazione: Utilizzano reti come U-Net con connessioni di salto (skip connections) per mappature spaziali dense.
• Classificazione: Utilizzano backbones convoluzionali o basati su Transformer con pool di pooling per etichette scalari.
  Questi approcci apprendono trasformazioni generiche dei dati basandosi principalmente sulla capacità del modello (model capacity) piuttosto che su priors strutturali (inductive bias) che guidano la scoperta di quali computazioni siano utili. Manca un approccio unificato che sfrutti principi fisici intrinseci per generare rappresentazioni significative sia per la segmentazione che per la classificazione.

2. Metodologia: HamVision

Il paper propone HamVision, un framework che utilizza l'oscillatore armonico smorzato come bias induttivo strutturato. L'idea centrale è che la dinamica intrinseca di un oscillatore, quando eccitata da un segnale spaziale (righe o colonne di una mappa di caratteristiche), genera naturalmente tre rappresentazioni funzionalmente distinte senza bisogno di supervisione diretta per queste specifiche:

1. Posizione ($q$): Rappresenta il contenuto del segnale filtrato.
2. Momento ($p = \dot{q}$): Rappresenta la derivata spaziale (tasso di cambiamento). È massimo ai confini (boundary) e nullo nelle regioni omogenee, agendo come un rilevatore di bordi frequenziale.
3. Energia ($H = \frac{1}{2}|z|^2$): Una mappa di salienza scalare e priva di parametri che integra contenuto e gradienti.

Architettura Tecnica

Il sistema è composto da un codificatore condiviso e un collo di bottiglia (bottleneck) Hamiltoniano, seguito da testine specifiche per il task.

• Codificatore: Basato su blocchi ConvNeXt con downsampling spaziale.
• Hamiltonian Bottleneck: Al livello più profondo, le caratteristiche vengono elaborate attraverso due percorsi paralleli:
  1. Un blocco ConvNeXt standard per il flusso del gradiente affidabile.
  2. Una banca di oscillatori che processa le feature in quattro direzioni (sinistra-destra, destra-sinistra, alto-basso, basso-alto) per catturare informazioni spaziali bidimensionali.
  • Le uscite degli oscillatori vengono fuse tramite un gate appreso ($g$) che bilancia i due percorsi.
  • L'output del collo di bottiglia produce tre tensori strutturati: $q$ (feature fuse), $p$ (momento) e $H$ (mappa di energia).
• Testine Specifiche per il Task:
  • HamSeg (Segmentazione): Utilizza un decoder a forma di U-Net.
    • L'Energia ($H$) viene utilizzata per gating (controllo) delle connessioni di salto, amplificando le regioni salienti e sopprimendo lo sfondo.
    • Il Momento ($p$) viene iniettato a ogni livello del decoder per fornire informazioni sui confini (boundary information) a tutte le risoluzioni.
  • HamCls (Classificazione): Sostituisce il decoder con un pooling nello spazio delle fasi.
    • Le feature ($q$), il modulo del momento ($|p|$) e l'energia ($H$) vengono globalmente poolati e concatenati in un vettore di caratteristiche nello spazio delle fasi, che viene poi classificato da un semplice MLP.

Fondamenti Matematici

Il sistema è basato sulle equazioni di Hamilton per un oscillatore smorzato. La dinamica è discretizzata utilizzando un integratore esponenziale (exponential-Euler), che garantisce stabilità BIBO (Bounded-Input Bounded-Output) e permette l'implementazione efficiente tramite scan parallelo (parallel scan), simile ai modelli SSM (State Space Models) come Mamba, ma con vincoli fisici rigidi.

3. Contributi Chiave

1. Collo di Bottiglia Hamiltoniano: Introduzione di un processo dinamico unico che produce tre rappresentazioni strutturate (posizione, momento, energia) come sottoprodotti intrinseci, senza moduli appresi dedicati.
2. Testine Task-Specific: Progettazione di due architetture che sfruttano queste rappresentazioni:
   • Per la segmentazione: Gating delle connessioni di salto basato sull'energia e iniezione multi-scala del momento.
   • Per la classificazione: Pooling globale nello spazio delle fasi che cattura statistiche di texture e salienza.
3. Efficienza e SOTA: HamVision raggiunge risultati allo stato dell'arte (SOTA) su 10 benchmark medici con soli 7-9 milioni di parametri, superando modelli molto più grandi (es. U-Net, Transformer, Mamba variants con 16-105M parametri).
4. Interpretabilità Intrinseca: Le uscite del modello hanno un significato fisico verificabile (es. il momento rileva i bordi, l'energia rileva le regioni salienti) senza bisogno di metodi di spiegazione post-hoc.

4. Risultati Sperimentali

Il framework è stato valutato su 10 benchmark che coprono 5 modalità di imaging (dermoscopia, ultrasuoni, risonanza magnetica, microscopia, TC).

• Segmentazione (4 dataset):
  • ISIC 2018: 89.38% Dice (SOTA).
  • ISIC 2017: 88.40% Dice (SOTA).
  • TN3K (Tiroide): 87.05% Dice (SOTA).
  • ACDC (Cuore): 92.40% Dice (SOTA, +2.61% rispetto a FreqConvMamba).
  • Nota: HamSeg supera la maggior parte dei baselines con meno di 1/10 dei parametri.
• Classificazione (6 dataset MedMNIST):
  • BloodMNIST: 98.85% Accuratezza (SOTA, +0.45% su MedMamba-S).
  • PathMNIST: 96.65% Accuratezza (SOTA, +0.25% su MedMamba-B).
  • Risultati competitivi su DermaMNIST, BreastMNIST, OrganSMNIST e RetinaMNIST.

5. Significato e Analisi

L'analisi diagnostica conferma che le dinamiche dell'oscillatore generano le rappresentazioni previste dalla fisica:

• Momento: Mostra un gradiente coerente (Interno > Confine > Esterno) che codifica non solo la posizione del bordo ma anche l'identità della regione, superando le semplici mappe di edge.
• Energia: Correla fortemente con le regioni discriminative e permette un gating spaziale efficace che si affina dalla scala grossolana a quella fine durante il decoding.
• Generalizzazione: Il fatto che lo stesso collo di bottiglia funzioni su immagini dermoscopiche, ecografie, risonanze magnetiche e TC suggerisce che l'oscillatore cattura proprietà fondamentali dell'analisi visiva (rilevamento di cambiamenti, attività spaziale, contenuto frequenziale) piuttosto che caratteristiche specifiche di una modalità.

Conclusione:
HamVision dimostra che imporre un vincolo dinamico fisico (Hamiltoniano) sulle rappresentazioni interne di una rete neurale fornisce un bias induttivo potente ed efficiente. Questo approccio unifica segmentazione e classificazione in un'unica architettura condivisa, offrendo non solo prestazioni superiori con meno parametri, ma anche una trasparenza interpretativa intrinseca delle caratteristiche apprese. Il lavoro collega la teoria dei sistemi dinamici e la meccanica hamiltoniana direttamente all'efficienza computazionale e all'interpretabilità nell'analisi delle immagini mediche.