UOTIP: Unbalanced Optimal Transport Map for Unpaired Inverse Problems

Riepilogo Tecnico: UOTIP – Mappa di Trasporto Ottimo Non Bilanciato per Problemi Inversi Non Appaiati

Enunciato del Problema
Il lavoro affronta i problemi inversi di immagini non appaiati, un contesto impegnativo in cui l'obiettivo è recuperare un segnale pulito sconosciuto $x$ da misurazioni rumorose $y$ (modellate come $y = A(x) + n$), ma i dati di addestramento consistono in insiemi indipendenti e non appaiati di misurazioni rumorose e segnali target puliti. I metodi supervisionati tradizionali richiedono dati appaiati $(y, x)$, che spesso non sono disponibili in scenari reali. Sebbene siano stati proposti modelli generativi e metodi basati sul Trasporto Ottimo (OT), le formulazioni OT standard impongono vincoli rigidi di corrispondenza dei margini ($T_\#\mu = \nu$), che possono essere fragili quando si affrontano valori anomali, squilibri di classe tra i dataset o livelli di rumore variabili. Inoltre, i problemi inversi sono spesso mal posti, il che significa che la mappa $y \to x$ potrebbe non avere una soluzione unica, complicando l'apprendimento di una mappa di trasporto deterministica.

Metodologia
Gli autori propongono UOTIP (Mappa di Trasporto Ottimo Non Bilanciato per Problemi Inversi), un nuovo risolutore che formula il compito di ricostruzione come l'apprendimento di una mappa di Trasporto Ottimo Non Bilanciato (UOT) dalla distribuzione delle misurazioni rumorose ($\mu$) alla distribuzione dei segnali puliti ($\nu$).

1. Formulazione UOT: A differenza dell'OT standard, l'UOT rilassa il vincolo di corrispondenza esatta dei margini introducendo penalità di divergenza $f$ ($D_{\Psi_1}, D_{\Psi_2}$) sui margini. Ciò consente al piano di trasporto di gestire deviazioni di massa tra le distribuzioni sorgente e target, fornendo robustezza agli outlier e agli squilibri di classe.
2. Funzione di Costo Basata sulla Verosimiglianza: Per allineare la mappa di trasporto alla stima di Massima Verosimiglianza A Posteriori (MAP), gli autori introducono una funzione di costo basata sulla verosimiglianza:
   $$c_l(y, x) = \|A(x) - y\|_2^2$$
   Sotto l'assunzione di rumore gaussiano, questo è proporzionale al log-verosimiglianza negativa. Minimizzare questo costo garantisce la fedeltà ai dati (il segnale ricostruito produce la misurazione osservata).
3. Regolarizzazione Quadratica per la Ben Posatezza: Per affrontare la natura mal posta dei problemi inversi (dove il costo di verosimiglianza da solo potrebbe violare la "condizione di twist" richiesta per l'esistenza e l'unicità di una mappa OT), gli autori incorporano un termine di costo quadratico:
   $$c_q(y, x) = \|y - x\|_2^2$$
   Il costo totale è una somma pesata: $c(y, x) = \tau(c_l(y, x) + c_q(y, x))$. Teoricamente, gli autori dimostrano che l'aggiunta di questo termine quadratico garantisce che il costo complessivo soddisfi la condizione di twist, assicurando l'esistenza e l'unicità della mappa di trasporto anche per problemi mal posti (ad esempio, deblurring).
4. Implementazione Neurale: Il modello apprende la mappa UOT $T_\theta$ e una funzione potenziale $v_\phi$ utilizzando una formulazione semi-duale dell'UOT. L'obiettivo di apprendimento minimizza una perdita derivata dalle coniugate convesse delle funzioni di penalità, agendo efficacemente come un stimatore MAP globale e non appaiato.

Contributi Chiave

• Primo Risolutore Non Appaiato basato su UOT: Il lavoro introduce il primo modello per problemi inversi non appaiati basato sul Trasporto Ottimo Non Bilanciato, integrando specificamente una funzione di costo basata sulla verosimiglianza.
• Garanzie Teoriche: Gli autori forniscono una prova teorica che l'inclusione di un termine di costo quadratico garantisce l'esistenza e l'unicità della mappa di trasporto per problemi inversi mal posti soddisfacendo la condizione di twist.
• Robustezza ai Vincoli del Mondo Reale: Rilassando i vincoli sui margini, il modello dimostra una robustezza intrinseca a:
  • Rumore di osservazione multilivello: Gestione di scenari in cui i livelli di rumore variano tra i campioni.
  • Squilibrio di classe: Adattamento a situazioni in cui i dataset sorgente e target hanno proporzioni diverse di classi (ad esempio, diverse modalità).
  • Tipi di rumore diversi: Generalizzazione a distribuzioni di rumore non gaussiane (Laplace, Poisson) nonostante sia addestrato con un costo di verosimiglianza basato su Gaussiana.
• Prestazioni all'Avanguardia: Il modello ottiene prestazioni superiori sia su benchmark di problemi inversi lineari (deblurring gaussiano, super-risoluzione) che non lineari (ricostruzione HDR, deblurring non lineare).

Risultati Sperimentali
Gli autori hanno valutato UOTIP sui dataset FFHQ e AFHQ su quattro compiti.

• Prestazioni Quantitative: UOTIP ha costantemente ottenuto i punteggi migliori o secondi migliori in PSNR, SSIM e FID su tutti i compiti e dataset, superando le basi esistenti come NOT (Neural OT), OTUR (GAN-based OT) e RCOT.
• Rumore Multilivello: Negli esperimenti con livelli di rumore misti ($\sigma_y \in \{0.025, 0.05, 0.1, 0.2\}$), UOTIP ha superato significativamente le varianti OT standard e altre basi, dimostrando che la formulazione non bilanciata gestisce efficacemente distribuzioni di rumore eterogenee.
• Squilibrio di Classe: Quando le distribuzioni sorgente e target avevano rapporti di classe sbilanciati (ad esempio, immagini di gatti contro cani), UOTIP ha mantenuto prestazioni superiori rispetto alle basi, che spesso si degradavano all'aumentare dello squilibrio.
• Studi di Ablazione: Rimuovere il costo di verosimiglianza (utilizzando solo il costo quadratico) ha ancora prodotto risultati competitivi, suggerendo utilità come risolutore cieco. Tuttavia, il modello completo (verosimiglianza + quadratico) ha ottenuto le migliori prestazioni complessive. Lo studio ha anche mostrato che il modello generalizza ai tipi di rumore Laplace e Poisson anche quando addestrato con un costo di verosimiglianza gaussiano.

Significato e Affermazioni
Il lavoro afferma che UOTIP offre un avanzamento significativo per i problemi inversi non appaiati colmando il divario tra la teoria del trasporto ottimo e la risoluzione pratica dei problemi inversi. Il significato risiede in:

1. Rilassamento dei Vincoli Rigidi: La capacità del framework UOT di rilassare la corrispondenza dei margini rende il risolutore adattabile ai dati reali, dove un allineamento rigoroso tra dataset rumorosi e puliti è raramente raggiungibile.
2. Solidità Teorica: Il lavoro fornisce una fondazione teorica rigorosa per la risoluzione di problemi inversi mal posti tramite mappe di trasporto neurali, garantendo l'unicità della soluzione attraverso la condizione di twist.
3. Robustezza Pratica: La capacità del modello di gestire rumore multilivello e squilibri di classe senza riaddestramento o modifiche architetturali complesse lo rende particolarmente efficace per applicazioni reali dove le condizioni dei dati sono variabili e imperfette.

Gli autori notano una limitazione: il metodo attualmente si basa su funzioni di costo a forma fissa senza capacità di addestramento per il costo stesso, sebbene la verosimiglianza basata su Gaussiana abbia mostrato una promettente generalizzazione ad altri tipi di rumore.