Robust Wasserstein barycenter

1. Il Problema

Il baricentro di Wasserstein (WB) è uno strumento fondamentale nell'ottimizzazione del trasporto (Optimal Transport - OT) per calcolare la "media" di una collezione di distribuzioni di probabilità. Tuttavia, il WB classico presenta due limitazioni critiche:

1. Sensibilità agli outlier: Essendo basato sulla distanza di Wasserstein standard, il WB è estremamente sensibile a valori anomali (outlier) e contaminazioni nei dati.
2. Assunzioni sui momenti: La definizione classica richiede che le distribuzioni in input abbiano momenti finiti (primo o secondo ordine). Questo rende il metodo inapplicabile a distribuzioni con code pesanti o senza momenti definiti.

Nelle applicazioni reali (come l'elaborazione di immagini o l'analisi di serie temporali finanziarie), la rimozione manuale degli outlier è spesso complessa o impossibile, specialmente quando il baricentro è definito come centro di massa rispetto a misure di probabilità.

2. Metodologia Proposta

Gli autori propongono il Baricentro di Wasserstein Robusto (RWB - Robust Wasserstein Barycenter), basato sul concetto di Trasporto Ottimo Robusto (ROT).

• Distanza di Wasserstein Robusta:
  Il cuore della metodologia è la definizione di una nuova distanza $W^{(\lambda)}_p$. Invece di utilizzare la funzione di costo classica $d(x, y)$, viene introdotta una funzione di costo troncata:
  $$c^{(\lambda)}(x, y) := \min\{d(x, y), \lambda\}$$
  dove $\lambda > 0$ è un parametro di regolarizzazione che controlla il livello di troncamento. Questo impedisce che distanze molto grandi (causate da outlier) influenzino eccessivamente il calcolo del trasporto ottimale.
  La distanza robusta è definita come:
  $$W^{(\lambda)}_p(\mu, \nu) := \left( \inf_{\gamma \in \Pi(\mu, \nu)} \int_{X \times X} [c^{(\lambda)}(x, y)]^p d\gamma \right)^{1/p}$$
  A differenza della distanza classica, $W^{(\lambda)}_p$ non richiede assunzioni sui momenti delle distribuzioni.

• Definizione del RWB:
  Il RWB è definito come la distribuzione $\nu$ che minimizza la somma attesa delle potenze delle distanze robuste rispetto alle distribuzioni di input:
  $$\nu^{(\lambda)}_{p,k} := \arg \min_{\xi} \sum_{i=1}^n w_i \left[ W^{(\lambda)}_p(\mu_i, \xi) \right]^k$$
  Tipicamente si imposta $k=p$.

• Algoritmo di Calcolo (Supporto Libero):
  Per calcolare il RWB, gli autori propongono un algoritmo a supporto libero (free-support).

  • Gli algoritmi a supporto fisso (come IBP - Iterative Bregman Projections) soffrono della "maledizione della dimensionalità" perché richiedono una griglia fissa di punti.
  • L'algoritmo proposto sfrutta la sparsità della soluzione ottima. Invece di fissare i punti di supporto su una griglia, l'algoritmo ottimizza simultaneamente i pesi e le posizioni dei punti di supporto del baricentro.
  • Viene utilizzato un algoritmo a punto fisso che aggiorna iterativamente la posizione dei punti di supporto basandosi sul trasporto ottimo tra il baricentro corrente e le distribuzioni di input.

3. Contributi Chiave

Il paper offre tre principali contributi teorici e pratici:

1. Nuovo Concetto Teorico: Introduzione del RWB come alternativa robusta al WB classico, eliminando la necessità di assunzioni sui momenti finiti e mitigando l'impatto degli outlier.
2. Garanzie Teoriche:
   • Esistenza: Dimostrazione che il funzionale di ottimizzazione ammette sempre un minimizzatore.
   • Consistenza: Prova che la sequenza di baricentri robusti calcolati su distribuzioni empiriche converge al baricentro vero quando la distribuzione empirica converge alla distribuzione reale.
   • Supporto: Caratterizzazione della dimensione del supporto del RWB quando le distribuzioni di input sono discrete (il supporto del RWB è limitato e finito).
3. Algoritmo Scalabile: Sviluppo di un metodo a supporto libero che generalizza gli algoritmi esistenti, affrontando la sfida della dimensionalità e migliorando la precisione nei risultati, specialmente nell'elaborazione di immagini.

4. Risultati Sperimentali

Gli autori hanno validato il metodo attraverso esperimenti su dati simulati e reali:

• Elaborazione di Immagini:

  • Su immagini di ellissi casuali con punti perturbati (outlier) nell'angolo superiore destro.
  • Risultato: Il WB classico produce baricentri con bordi sfocati e uno spostamento visibile verso gli outlier. Il RWB mantiene bordi nitidi e non subisce deviazioni significative, dimostrando una superiorità visiva e strutturale.

• Analisi di Dati Numerici (Contaminazione):

  • Simulazione di distribuzioni contaminate (mix di segnali e rumore).
  • Risultato: All'aumentare del tasso di contaminazione, la distanza di Wasserstein tra il baricentro calcolato e quello vero aumenta per entrambi i metodi, ma l'aumento è significativamente più contenuto per il RWB. Il valore ottimale di $\lambda$ è stato identificato sperimentalmente (es. $\lambda=30$ in un caso specifico).

• Distribuzioni a Code Pesanti:

  • Test su distribuzioni $t$ di Student (che hanno momenti di ordine superiore non definiti o instabili).
  • Risultato: Il RWB supera nettamente il WB classico, che fallisce o performa male in assenza di momenti finiti.

• Dati Reali (Finanza):

  • Analisi dei rendimenti logaritmici dei prezzi di chiusura di un dataset azionario contenente outlier significativi.
  • Risultato: Il baricentro calcolato con il metodo RWB su dati "sporchi" (con outlier) rimane molto più vicino al baricentro calcolato su dati "puliti" rispetto al WB classico. Questo conferma la capacità del RWB di ignorare le anomalie estreme e catturare la distribuzione sottostante del mercato.

5. Significato e Impatto

Questo lavoro è significativo perché:

• Rende l'OT applicabile in scenari reali: Molti dataset reali (finanza, sensori, immagini mediche) contengono rumore e outlier che invalidano i metodi statistici classici basati su momenti. Il RWB estende l'utilità del trasporto ottimo a questi contesti.
• Fornisce basi teoriche solide: A differenza di molte soluzioni empiriche, il RWB è supportato da teoremi di esistenza e consistenza.
• Migliora l'efficienza computazionale: L'approccio a supporto libero offre una via per calcolare baricentri in spazi ad alta dimensionalità senza la necessità di griglie esponenzialmente grandi, aprendo la strada a nuove applicazioni nel Machine Learning (es. GAN robuste, clustering di distribuzioni).

In sintesi, il paper propone una soluzione matematicamente rigorosa e computazionalmente efficiente per il problema della media di distribuzioni in presenza di dati imperfetti, superando i limiti fondamentali del baricentro di Wasserstein tradizionale.