Optimal uncertainty bounds for multivariate kernel regression under bounded noise: A Gaussian process-based dual function

Titre de l'article

Bornes d'incertitude optimales pour la régression à noyau multivariée sous bruit borné : Une fonction duale basée sur les processus gaussiens

1. Problématique

Le contrôle basé sur l'apprentissage (learning-based control) nécessite des prédictions fiables de fonctions latentes à partir de données bruitées, accompagnées de bornes d'incertitude non conservatrices pour garantir la sécurité. Bien que les méthodes à noyau, telles que la régression par processus gaussiens (GP), offrent une quantification d'incertitude intrinsèque, les bornes existantes présentent plusieurs limitations majeures :

• Hypothèses restrictives : Les bornes probabilistes classiques supposent souvent un bruit gaussien ou indépendant, ce qui est irréaliste pour des perturbations corrélées ou adverses.
• Conservatisme : Les bornes déterministes existantes (pour un bruit borné) sont souvent trop conservatrices.
• Difficulté d'intégration : Certaines approches nécessitent des optimisations contraintes ou non lisses, les rendant difficiles à intégrer dans des pipelines d'optimisation en aval (comme le contrôle prédictif ou l'optimisation bayésienne).
• Évolutivité : Les méthodes actuelles ne s'étendent pas bien au cas multivarié (sorties multiples) ou aux ensembles d'incertitude complexes (ellipsoïdaux).

L'objectif de cet article est de combler ces lacunes en proposant une borne d'incertitude déterministe, serrée (tight), libre de distribution et applicable aux cas multivariés.

2. Méthodologie

Les auteurs formulent le problème de la borne d'incertitude comme un problème d'optimisation de pire cas (worst-case) pour une fonction inconnue $f^{tr}$ dans un Espace de Hilbert à Noyau Reproductible (RKHS).

• Modèle de données : Les observations sont modélisées par $y_i = c_i^\top f^{tr}(x_i) + w_i$, où le bruit $w$ est contraint par un ensemble d'incertitudes ellipsoïdales (incluant le bruit borné point par point et le bruit borné en énergie).
• Formulation duale : Au lieu de résoudre directement le problème d'optimisation primal (qui est complexe), les auteurs utilisent la dualité forte. Ils transcrivent les contraintes de régularité (norme RKHS bornée) et de bruit borné en un problème d'optimisation duale.
• Paramétrisation du bruit : La clé de la méthode réside dans l'introduction de paramètres de bruit libres $\sigma = [\sigma_j]$. La borne d'incertitude est exprimée comme la fonction duale d'un processus gaussien, où la matrice de covariance du bruit $K_w^\sigma$ est définie de manière à correspondre aux contraintes ellipsoïdales du bruit.
• Optimisation sans contrainte : Le problème de recherche de la borne optimale se réduit à la minimisation d'une fonction scalaire (la fonction duale) par rapport aux paramètres $\sigma$. Cette fonction est démontrée comme étant invexe (invex), ce qui garantit que tout minimum local dans le domaine ouvert est un minimum global.

3. Contributions Clés

1. Borne déterministe multivariée : L'article généralise les résultats existants (souvent limités au cas scalaire) au cas multivarié ($f: \mathbb{R}^{n_x} \to \mathbb{R}^{n_f}$).
2. Formulation duale non contrainte : La borne est obtenue via l'optimisation non contrainte d'une fonction duale basée sur les processus gaussiens. Cela permet une intégration directe et fluide dans des pipelines d'optimisation en aval, contrairement aux méthodes nécessitant des solveurs d'optimisation convexe avec contraintes.
3. Généralisation des résultats existants : La méthode proposée englobe plusieurs bornes déterministes existantes (comme celles de [13]-[16]) comme des cas particuliers. Elle montre que les bornes sous-optimales en forme fermée correspondent à une évaluation de la fonction duale avec des paramètres fixes.
4. Propriété d'invexité : La preuve que la fonction duale est invexe assure que l'optimisation par descente de gradient (comme Adam) converge vers la solution globale, rendant la méthode scalable.
5. Robustesse au bruit : La méthode ne fait aucune hypothèse sur la distribution du bruit, se contentant de contraintes ellipsoïdales, ce qui la rend robuste face aux bruits corrélés, biaisés ou adverses.

4. Résultats Expérimentaux

Les auteurs valident leur approche sur un exemple inspiré de l'apprentissage de la dynamique d'un quadrotor (estimation de l'accélération résiduelle en fonction de l'angle d'inclinaison).

• Comparaison de conservatisme : La méthode proposée ("Dual-GD") produit des bornes d'incertitude nettement moins conservatrices que les bornes en forme fermée (ex: méthode [12]) et comparable à la solution optimale exacte (résolue via CVX).
• Temps de calcul :
  • La méthode "Dual-GD" (optimisation par gradient) est significativement plus rapide que la résolution directe du problème primal avec CVX, surtout lorsque le nombre de points de données augmente (ex: passage de 100 à 1000 points).
  • Bien que la méthode [15] (itérative) soit rapide, elle reste contrainte et moins facile à intégrer dans des tâches d'optimisation en aval que la formulation non contrainte proposée.
• Cas multivarié : L'exemple montre que la méthode gère efficacement les sorties multiples (accélération x et z) et les contraintes de bruit ellipsoïdales dépendantes de l'angle, générant des tubes d'incertitude ellipsoïdaux serrés autour de la fonction vraie.

5. Signification et Impact

Ce travail est significatif pour le domaine du contrôle basé sur l'apprentissage sécurisé (safe learning-based control) pour plusieurs raisons :

• Sécurité garantie : Il fournit des garanties déterministes rigoureuses sans hypothèses de distribution de bruit irréalistes, essentielles pour certifier la sécurité des systèmes.
• Intégrabilité : La nature non contrainte et lisse de la formulation duale permet d'utiliser ces bornes d'incertitude directement dans des algorithmes d'optimisation en temps réel (ex: MPC, Optimisation Bayésienne), ce qui était difficile avec les méthodes précédentes.
• Efficacité computationnelle : En évitant les solveurs d'optimisation convexe lourds pour le calcul des bornes, la méthode rend possible l'utilisation de techniques d'apprentissage robuste sur des systèmes dynamiques complexes avec de grands ensembles de données.

En résumé, cet article propose un cadre unifié et efficace pour quantifier l'incertitude dans les systèmes multivariés, combinant la rigueur des bornes déterministes avec la flexibilité computationnelle des processus gaussiens.