Neural network parametrized level sets for image segmentation

1. Il Problema

La segmentazione e la classificazione delle immagini mirano a partizionare un'immagine in regioni con proprietà desiderate, un compito fondamentale in campi come il riconoscimento di oggetti, la diagnosi medica e la guida autonoma.
Il lavoro si basa sui funzionali variazionali di Chan-Vese, che sono metodi di primo piano per la segmentazione. Tradizionalmente, questi metodi sono implementati tramite approcci a livello set (level-set) non parametrizzati, dove le funzioni livello-set sono rappresentate pixel per pixel (approccio esplicito su griglia). Sebbene potenti, questi metodi possono essere computazionalmente costosi e difficili da ottimizzare globalmente. Esistono anche approcci parametrizzati (es. spline), ma c'è una mancanza di chiarezza teorica su come le reti neurali, in particolare quelle profonde, possano essere utilizzate in modo efficiente per parametrizzare le funzioni livello-set, e quali architetture siano ottimali per rappresentare regioni poligonali e classi complesse.

2. Metodologia

Gli autori propongono un metodo unificato che utilizza reti neurali come approssimazioni parametriche delle funzioni livello-set all'interno del framework di Chan-Vese.

• Parametrizzazione tramite Reti Neurali:

  • Invece di ottimizzare i valori pixel per pixel, le funzioni livello-set $\ell_k$ sono rappresentate da reti neurali.
  • Vengono definite reti di Heaviside (per la teoria) e reti sigmoide (per l'implementazione numerica).
  • Viene dimostrato che una rete a due strati (con attivazione Heaviside) è la struttura più efficiente per approssimare funzioni caratteristiche di segmenti poligonali e classi multiphase.
  • Una singola funzione livello-set può essere approssimata da una rete a uno strato (shallow network), mentre la funzione di segmentazione complessiva (che combina più livelli-set per definire regioni multiple) richiede una struttura a due strati.

• Formulazione del Funzionale:

  • Il funzionale di Chan-Vese viene riformolato sostituendo le funzioni livello-set generiche con le uscite delle reti neurali parametrizzate ($s_k$).
  • Il funzionale ottimizzato cerca di minimizzare l'errore quadratico tra l'immagine originale e una funzione a tratti costanti definita dalle regioni delimitate dalle reti neurali, penalizzando la lunghezza dei contorni (regolarizzazione).

• Algoritmo di Ottimizzazione:

  • L'approccio proposto segue una strategia in due fasi:
    1. Pre-training: Una rete neurale viene addestrata (usando un dataset di immagini sintetiche, es. cerchi) per generare una struttura iniziale dei parametri che approssimi bene la geometria degli oggetti. Questo fornisce un punto di partenza vicino alla soluzione ottima.
    2. Ottimizzazione del Funzionale Parametrizzato: I parametri della rete (pesi e bias) vengono ottimizzati utilizzando la discesa del gradiente stocastica (Mini-batch SGD) per minimizzare direttamente il funzionale di Chan-Vese parametrizzato.
  • Per la stabilità numerica, la funzione di Heaviside discontinua viene approssimata da una funzione sigmoide $\sigma_\varepsilon$.

3. Contributi Chiave

1. Fondamenti Matematici delle Reti Neurali per la Segmentazione:

   • Gli autori dimostrano teoricamente che le reti a due strati sono sufficienti ed efficienti per rappresentare funzioni caratteristiche di poligoni convessi e, per estensione, regioni arbitrarie con perimetro finito.
   • Viene stabilita una connessione strutturale diretta tra il modello Chan-Vese e le architetture delle reti neurali, mostrando come la segmentazione multiphase possa essere espressa come una combinazione di attivazioni di reti a due strati.

2. Efficienza delle Reti Parametrizzate:

   • Viene provato che le reti a due strati sono ottimali per approssimare segmenti poliedrici. Questo giustifica l'uso di architetture specifiche (due strati) piuttosto che reti generiche molto profonde per questo compito specifico.

3. Algoritmo Ibrido di Apprendimento:

   • Viene proposto un algoritmo che combina l'apprendimento supervisionato (per l'inizializzazione dei parametri) con l'ottimizzazione variazionale non supervisionata (minimizzazione del funzionale energetico). Questo supera i problemi di convergenza locale tipici dei metodi a livello-set tradizionali.

4. Risultati di Approssimazione e Convergenza:

   • Vengono forniti teoremi (Sezione 5) che dimostrano la convergenza delle reti neurali sigmoide alle funzioni livello-set di Heaviside e la convergenza dei minimizzatori del funzionale regolarizzato verso i minimizzatori del problema originale, sotto appropriate ipotesi di regolarità.

4. Risultati Sperimentali

Gli esperimenti sono stati condotti su immagini sintetiche e reali per validare l'approccio:

• Inizializzazione Pre-addestrata vs. Randomica:

  • L'uso di parametri inizializzati tramite pre-training (Step 1) porta a risultati significativamente migliori rispetto all'inizializzazione casuale. Le immagini segmentate con inizializzazione casuale mostrano bordi più irregolari e "rumorosi" a causa della stocasticità degli ottimizzatori, mentre l'inizializzazione pre-addestrata garantisce una convergenza più rapida e stabile verso contorni puliti.
  • Il funzionale energetico di Chan-Vese inizia a un valore più basso con l'inizializzazione pre-addestrata, indicando che i contorni iniziali sono già vicini agli oggetti target.

• Impatto dei Parametri di Regolarizzazione:

  • $\varepsilon$ (Smoothing): Valori più piccoli di $\varepsilon$ (es. 0.5) producono una convergenza più rapida e risultati più chiari nelle prime iterazioni rispetto a valori più grandi (es. 1), sebbene dopo molte iterazioni i risultati tendano a equivalersi.
  • $\mu$ (Penalità della lunghezza): La scelta di $\mu$ influenza la regolarità del contorno. Un valore di $\mu = 0.1$ ha mostrato i risultati visivamente più nitidi negli esperimenti.

• Confronto Ottimizzatori:

  • Gli ottimizzatori stocastici (come AdamW) offrono un buon compromesso tra velocità, scalabilità e stabilità, risultando meno sensibili all'inizializzazione rispetto ai metodi deterministici o quasi-Newton (come L-BFGS) che possono divergere se non inizializzati correttamente.

5. Significato e Implicazioni

Questo lavoro è significativo perché:

• Colma il divario teorico: Fornisce una giustificazione matematica rigorosa sul perché le reti neurali (in particolare a due strati) funzionano bene per la segmentazione basata su livello-set, collegando la teoria variazionale classica (Mumford-Shah, Chan-Vese) con l'apprendimento profondo.
• Migliora l'efficienza computazionale: Spostando l'ottimizzazione dallo spazio dei pixel allo spazio dei parametri della rete neurale, si riduce drasticamente il numero di gradi di libertà, rendendo il problema più gestibile e meno soggetto a minimi locali rispetto ai metodi pixel-based.
• Flessibilità: L'approccio permette di utilizzare architetture di reti neurali standard e ottimizzatori moderni (come Adam) per compiti di visione artificiale tradizionali, facilitando l'integrazione di tecniche di deep learning in contesti di analisi matematica delle immagini.
• Robustezza: La strategia di inizializzazione tramite pre-training dimostra che l'apprendimento profondo può essere utilizzato per fornire "priors" geometrici efficaci, migliorando la robustezza dei metodi variazionali classici.

In sintesi, il paper propone un framework unificato che trasforma la segmentazione di immagini in un problema di ottimizzazione dei parametri di una rete neurale, dimostrando teoricamente e praticamente che le reti a due strati sono lo strumento ideale per questo scopo.