Optimal uncertainty bounds for multivariate kernel regression under bounded noise: A Gaussian process-based dual function

1. Il Problema

Il lavoro affronta la sfida di ottenere limiti di incertezza non conservativi (tight) per la regressione di funzioni latenti multivariate a partire da dati rumorosi. Questo è un prerequisito fondamentale per il controllo basato sull'apprendimento sicuro (safe learning-based control).

Le limitazioni delle tecniche esistenti includono:

• Assunzioni forti sulla distribuzione del rumore: I metodi basati su Processi Gaussiani (GP) standard richiedono spesso che il rumore sia gaussiano e indipendente.
• Conservativismo eccessivo: I limiti deterministici esistenti per rumore limitato sono spesso troppo ampi (conservativi).
• Scalabilità: Le soluzioni attuali non scalano bene nel caso di output multipli (multivariato).
• Difficoltà di integrazione: Molti limiti richiedono ottimizzazioni vincolate o non lisce, rendendo difficile la loro integrazione in pipeline di ottimizzazione a valle (es. controllo predittivo o ottimizzazione bayesiana).

L'obiettivo è derivare un limite deterministico, distribuito-libero (distribution-free), stretto e scalabile per stime basate su kernel multivariati, valido per rumore limitato da insiemi ellissoidali.

2. Metodologia

Gli autori formulano il problema come un'ottimizzazione per trovare la realizzazione "peggiore" (worst-case) della funzione latente $f^{tr}$ in una data direzione $h$, soggetta a vincoli di regolarità e rumore.

• Formulazione del Problema:
  Si assume che la funzione latente appartenga a uno spazio di Hilbert a kernel riproducente (RKHS) con norma limitata ($\|f\|_{\mathcal{H}_k} \le \Gamma_f$) e che il rumore additivo $w$ sia limitato da un insieme di vincoli ellissoidali ($w^\top P_j w \le \Gamma_{w,j}^2$).
  Il problema di trovare il limite superiore è formulato come:
  $$\sup_{f, w} h^\top f(x_{N+1})$$
  soggetto ai vincoli di misurazione $y_i = c_i^\top f(x_i) + w_i$, ai vincoli sul rumore e alla norma RKHS.

• Approccio basato sulla Dualità:
  Il contributo centrale è la riscrittura di questo problema di ottimizzazione vincolata in termini di una funzione duale non vincolata.
  Gli autori dimostrano che il limite di incertezza ottimale può essere espresso come l'infimo di una funzione che assomiglia strutturalmente ai classici limiti di confidenza dei GP, ma con parametri di rumore liberi.

• Definizione del Limite Proposto:
  Il limite è dato da:
  $$f^\sigma_h(x_{N+1}) = h^\top f^\mu_\sigma(x_{N+1}) + \beta_\sigma \sqrt{h^\top \Sigma_\sigma(x_{N+1}) h}$$
  Dove:

  • $f^\mu_\sigma$ e $\Sigma_\sigma$ sono la media e la covarianza a posteriori di un GP multivariato, utilizzando una matrice di covarianza del rumore $K^w_\sigma$ derivata dai vincoli ellissoidali.
  • $\beta_\sigma$ è un fattore di scala che dipende dai limiti di rumore e della norma RKHS.
  • $\sigma$ è un vettore di parametri di rumore liberi (duali).

• Proprietà Chiave:
  La funzione duale risultante è invessa (invex) rispetto ai parametri $\sigma$. Questo garantisce che qualsiasi minimo locale trovato in un dominio aperto sia anche un minimo globale, permettendo l'uso efficiente di metodi di discesa del gradiente per trovare il limite più stretto.

3. Contributi Chiave

1. Limite Ottimale e Stretto: Derivazione di un limite di incertezza deterministico che è ottimale per la formulazione data, superando la conservatività dei metodi precedenti.
2. Generalizzazione Multivariata: Estensione dei risultati esistenti (spesso limitati a output scalari) al caso multivariato (output vettoriale), gestendo correlazioni tra le uscite.
3. Flessibilità del Rumore: Il metodo gestisce una vasta gamma di vincoli sul rumore, inclusi:
   • Rumore limitato punto-punto (point-wise).
   • Rumore limitato in energia (energy-bounded).
   • Intersezioni di vincoli ellissoidali.
4. Integrabilità: La formulazione duale è non vincolata e liscia (smooth). Questo permette di ottimizzare i parametri di incertezza $\sigma$ simultaneamente all'obiettivo principale in compiti a valle (es. controllo), senza la necessità di risolvere problemi di ottimizzazione vincolati complessi a ogni iterazione.
5. Unificazione Teorica: Il lavoro dimostra che molti limiti deterministici esistenti nella letteratura sono casi particolari o approssimazioni del limite proposto.

4. Risultati Sperimentali

Gli autori hanno validato il metodo su un esempio ispirato all'apprendimento della dinamica di un quadrotore soggetto a disturbi del vento dipendenti dall'angolo di inclinazione.

• Confronto con lo stato dell'arte:

  • CVX-full: Risoluzione diretta del problema primale (ottimo ma lento).
  • [15]: Algoritmo iterativo per rumore limitato punto-punto (buona accuratezza, ma richiede ottimizzazione vincolata).
  • [12]: Limite in forma chiusa (molto veloce ma molto conservativo).
  • Dual-GD (Metodo Proposto): Ottimizzazione del limite duale tramite discesa del gradiente.

• Performance:

  • Accuratezza: Il metodo "Dual-GD" raggiunge un livello di sub-ottimalità trascurabile rispetto alla soluzione ottima esatta (CVX-full), superando di gran lunga il limite in forma chiusa [12] in termini di precisione.
  • Tempo di Calcolo: Sebbene leggermente più lento dei metodi in forma chiusa, è significativamente più veloce della risoluzione diretta del problema primale (CVX-full), specialmente all'aumentare della dimensione del dataset (es. 1000 punti dati).
  • Scalabilità: Il metodo dimostra di essere efficace anche con dataset grandi, riducendo l'ampiezza del tubo di incertezza in modo competitivo.

5. Significato e Implicazioni

Questo lavoro è significativo per il campo del controllo basato sull'apprendimento per diversi motivi:

• Sicurezza Garantita: Fornisce garanzie di sicurezza rigorose (deterministiche) anche in presenza di rumore correlato e non gaussiano, cruciale per applicazioni reali come robotica e veicoli autonomi.
• Efficienza Computazionale: La capacità di integrare il calcolo del limite di incertezza direttamente nelle pipeline di ottimizzazione (grazie alla natura non vincolata e liscia della funzione duale) rende possibile l'uso di questi limiti in tempo reale per il controllo adattivo e l'ottimizzazione bayesiana sicura.
• Generalità: La capacità di gestire output multipli e strutture di rumore complesse rende il metodo applicabile a sistemi dinamici reali complessi, superando le limitazioni dei modelli scalari o con rumore i.i.d.

In sintesi, il paper propone un ponte teorico e pratico tra la quantificazione dell'incertezza basata su kernel e l'ottimizzazione vincolata, offrendo uno strumento potente per sistemi di controllo che devono operare in ambienti incerti e non perfettamente modellati.