Local Sensitivity Analysis for Kernel-Regularized ARX Predictors in Data-Driven Predictive Control

1. Problématique et Contexte

Le Contrôle Prédictif Basé sur les Données (DDPC) vise à concevoir des contrôleurs directement à partir de données mesurées, sans recourir à un modèle d'espace d'état explicite. Une approche courante consiste à utiliser des prédicteurs basés sur des modèles ARX (AutoRegressive with eXogenous inputs).

Cependant, une difficulté fondamentale persiste dans les architectures DDPC structurées :

• L'étape d'identification du modèle ARX est linéaire par rapport aux paramètres du prédicteur ($\theta$).
• En revanche, le prédicteur multi-étapes (ou "lifted") utilisé à l'intérieur de l'algorithme de commande prédictive (MPC) dépend de ces paramètres de manière implicite et non linéaire.

Cette non-linéarité crée un obstacle majeur pour propager l'incertitude des paramètres estimés vers l'analyse de l'incertitude de la prédiction multi-étapes. Sans cette propagation, il est difficile de :

1. Quantifier l'impact de l'erreur d'estimation sur la performance de contrôle (via des termes d'incertitude dans la fonction de coût).
2. Concevoir des régularisations "conscientes de la tâche" (task-aware) qui pénalisent spécifiquement les erreurs de paramètres ayant le plus d'impact sur le contrôle.

2. Méthodologie

Les auteurs proposent une analyse de sensibilité locale du premier ordre pour établir un pont entre l'incertitude des paramètres et la sensibilité du prédicteur multi-étapes.

A. Linéarisation Locale du Prédicteur Implicite

Le prédicteur multi-étapes $\hat{y}_f$ est exprimé comme une fonction implicite des paramètres $\theta$ :
$$\hat{y}_f(u_f; \theta) = (I - \Phi_y(\theta))^{-1} \left( \Psi_u(\theta)u_p + \Psi_y(\theta)y_p + \Phi_u(\theta)u_f \right)$$
où $u_f$ est la séquence de commande future, et les matrices $\Psi, \Phi$ sont des matrices de Toeplitz construites à partir des coefficients ARX.

Les auteurs dérivent la matrice jacobienne $J(\bar{\theta}, u_f) = \frac{\partial \hat{y}_f}{\partial \theta}$ autour d'une estimation nominale $\bar{\theta}$.

• Cette dérivation nécessite de différencier l'inverse de matrice $(I - \Phi_y)^{-1}$.
• Le résultat montre que la variation du prédicteur est une fonction affine de la séquence de commande future $u_f$ :
  $$J(\bar{\theta}, u_f) = J_0 + J_1 u_f$$
  Cette structure affine est cruciale car elle permet d'intégrer l'incertitude directement dans la fonction de coût quadratique du MPC.

B. Propagation de l'Incertitude et Coût FCE

En supposant une distribution a posteriori gaussienne pour les paramètres $\theta | \mathcal{D} \sim \mathcal{N}(\bar{\theta}, \Sigma_\theta)$, les auteurs approximent la covariance de la sortie prédite :
$$\Sigma_{y_f}(u_f) \approx J(\bar{\theta}, u_f) \Sigma_\theta J(\bar{\theta}, u_f)^\top$$
Cela permet de définir un terme de pénalité d'incertitude de type Final Control Error (FCE) à ajouter au coût du MPC :
$$L_\Omega(u_f) \approx \text{tr}\left( J(\bar{\theta}, u_f)^\top Q J(\bar{\theta}, u_f) \Sigma_\theta \right)$$
Ce terme quantifie l'impact attendu de l'incertitude des paramètres sur l'erreur de suivi pondérée par la matrice $Q$.

C. Conception de Noyaux de Régularisation Sensibles à la Tâche

L'apport principal de l'analyse de sensibilité est l'utilisation de la matrice $J$ pour façonner la régularisation lors de l'identification.

• Au lieu d'utiliser uniquement des noyaux standards (comme TC/SS) qui pénalisent l'erreur d'identification globale, les auteurs construisent une matrice de sensibilité moyenne $\bar{W}$ sur un ensemble de scénarios de tâche représentatifs :
  $$\bar{W} \approx \frac{1}{N} \sum J(\bar{\theta}, \xi_j)^\top Q J(\bar{\theta}, \xi_j)$$
• Cette matrice $\bar{W}$ est utilisée pour modifier le terme de régularisation dans l'estimateur ARX :
  $$\hat{\theta}_c = \arg\min_\theta \left( \|y - H\theta\|^2 + \theta^\top K^{-1}\theta + \mu (\theta - \bar{\theta})^\top \bar{W} (\theta - \bar{\theta}) \right)$$
• Cela permet de pénaliser plus fortement les directions des paramètres qui sont localement les plus critiques pour la performance de contrôle, tout en conservant la forme quadratique fermée de la solution.

3. Contributions Clés

1. Analyse de Sensibilité Locale : Dérivation d'une linéarisation du premier ordre pour le prédicteur multi-étapes implicite dans les DDPC structurés ARX, reliant l'identification linéaire à la propagation d'incertitude non linéaire.
2. Double Utilisation du Jacobien :
   • Approximation d'un terme d'incertitude pour le coût du MPC (type FCE).
   • Construction d'une métrique de sensibilité dépendante de la tâche pour façonner les noyaux de régularisation.
3. Validation Numérique : Démonstration que cette approche est particulièrement efficace dans les régimes à faible excitation (weak-excitation), où l'incertitude des données est élevée.

4. Résultats Expérimentaux

Les simulations ont été menées sur un système LTI du second ordre avec deux régimes de données :

• Régime à données informatives (forte excitation) :

  • Tous les variants basés sur ARX sont compétitifs.
  • Les gains supplémentaires apportés par la régularisation sensible à la tâche ou le terme FCE sont modestes, car l'incertitude initiale est déjà faible.

• Régime à faible excitation (Weak-Excitation) :

  • C'est le scénario le plus critique où l'incertitude du prédicteur est élevée.
  • Régularisation de base (SS) : Apporte une amélioration massive par rapport à l'identification OLS (Ordinary Least Squares) en stabilisant le contrôle.
  • Façonnage de sensibilité (SS+W) : Apporte une amélioration supplémentaire par rapport à la régularisation SS seule. Cela prouve que le Jacobien capture des structures dépendantes de la tâche que les noyaux standards ne voient pas.
  • Terme FCE : L'ajout direct du terme d'incertitude au coût du MPC améliore les performances par rapport à OLS, mais moins efficacement que la régularisation sensible à la tâche. De plus, il n'améliore pas significativement les prédicteurs déjà régularisés.
  • Réduction de la variance : Le tableau I montre une réduction drastique de la trace de la covariance a posteriori des paramètres ($\text{tr}(\Sigma_\theta)$) avec la méthode proposée (SS+W), passant de 0.047 (OLS) à 0.0019.

5. Signification et Conclusion

Cet article résout un problème théorique majeur en DDPC : la difficulté de propager l'incertitude des paramètres à travers la non-linéarité du prédicteur multi-étapes.

• Signification pratique : La méthode proposée offre un outil robuste pour améliorer la fiabilité du contrôle prédictif lorsque les données d'entraînement sont limitées ou peu excitantes.
• Conclusion principale : Dans des conditions de données difficiles, la régularisation guidée par la sensibilité (shaping) est plus efficace que l'ajout simple d'un terme d'incertitude dans le coût du MPC. Elle permet de "sculpter" l'erreur d'estimation dans les directions qui comptent vraiment pour le contrôle, offrant ainsi une robustesse supérieure.

Les auteurs suggèrent que les travaux futurs pourraient se concentrer sur des stratégies de réglage automatique des hyperparamètres (comme $\mu$) et l'extension de cette approche à d'autres paramétrisations de prédicteurs différentiables.