Data Poisoning Attacks on Informativity for Observability: Invariance-Based Synthesis

1. Problématique et Contexte

Le contrôle basé sur les données (data-driven control) est un cadre théorique qui permet d'analyser les propriétés des systèmes (stabilité, observabilité, commandabilité) et de synthétiser des contrôleurs directement à partir de données mesurées, sans identifier un modèle unique. La notion clé est l'informativité des données : elle détermine si les données disponibles sont suffisantes pour garantir qu'un ensemble de modèles compatibles avec ces données possède une propriété donnée.

Cependant, dans les environnements cyber-physiques, ces systèmes sont vulnérables aux attaques par empoisonnement de données. L'article se concentre spécifiquement sur la forte observabilité (strong observability).

• Objectif de l'attaquant : Transformer les données d'entraînement (séries temporelles finies) via une transformation linéaire inversible pour rendre les données non informatives pour la forte observabilité.
• Contrainte de furtivité : L'attaque ne doit pas réduire le rang des matrices de données (ce qui serait détectable immédiatement). Elle doit préserver la richesse apparente des données (persistance de l'excitation) tout en modifiant subtilement l'ensemble des modèles compatibles pour y injecter des dynamiques malveillantes (états non observables).

2. Méthodologie

L'approche proposée repose sur la géométrie des sous-espaces invariants et la théorie des ensembles affines de modèles.

A. Modélisation de l'Attaque

L'attaquant applique une transformation linéaire inversible par blocs $\Phi_a$ aux matrices de données originales $D = \{X_-, X_+, U_-, Y_-\}$ :
$$\tilde{D} = \Phi_a D$$
où $\Phi_a = \text{blk-diag}(\Phi_{X_-}, \Phi_{X_+}, \Phi_{U_-}, \Phi_{Y_-})$.
Le but est de s'assurer que le sous-espace faiblement non observable associé aux données transformées, noté $V^*(\tilde{D})$, contient un état non nul $\tilde{x}_0$. Cela signifie qu'il existe un vecteur de coefficients $v$ tel que $P(\tilde{D})v = \tilde{x}_0 \neq 0$ et que $v$ appartient au sous-espace des coefficients non observables $J^*(\tilde{D})$.

B. Conception Constructive de l'Attaque

Les auteurs proposent un algorithme (Algorithme 1) pour construire la transformation :

1. Sélection d'une direction d'attaque : Choisir un vecteur $v$ orthogonal à l'espace des coefficients faiblement non observables original $J^*(D)$, mais tel qu'il ne soit pas dans l'image inverse de l'espace des sorties générées par $J^*(D)$.
2. Définition d'un modèle malveillant : L'attaquant définit un couple propre $(\tilde{\lambda}, \tilde{x}_0)$ correspondant à un système non observable.
3. Génération de trajectoires cibles : Calculer les vecteurs cibles $\tilde{x}_1, \tilde{u}_0, \tilde{y}_0$ qui satisfont les équations dynamiques du modèle malveillant.
4. Construction de la transformation : Utiliser des matrices de rang 1 pour modifier les données de manière à ce que la combinaison linéaire définie par $v$ produise la trajectoire malveillante, tout en laissant inchangées les combinaisons linéaires correspondant aux vecteurs de $J^*(D)$ (pour préserver la furtivité).

C. Conditions de Faisabilité

Le papier établit des conditions géométriques et de rang nécessaires et suffisantes pour qu'une telle attaque existe. La condition clé (Proposition 1) est que la dimension de l'espace des sorties générées par le sous-espace non observable original soit strictement inférieure au rang de la matrice de données correspondante. Cela garantit l'existence d'une direction "libre" pour injecter l'attaque sans violer les contraintes de furtivité.

D. Attaque à Norme Minimale

Pour quantifier la vulnérabilité, les auteurs formulent un problème d'optimisation visant à trouver la transformation qui détruit l'informativité avec la plus petite perturbation possible (norme de Frobenius minimale).

• Le problème est réduit à la minimisation d'une fonction de coût dépendant du couple propre $(\tilde{\lambda}, \tilde{x}_0)$ et du vecteur de direction $v$.
• La solution optimale fait apparaître naturellement le test de Hautus utilisé dans les tests d'observabilité basés sur les données.
• Le résultat théorique (Théorème 2) montre que la perturbation minimale requise est proportionnelle à la distance entre l'ensemble de modèles compatibles avec les données et l'ensemble des systèmes non observables. Si les données sont déjà proches d'être non informatives, l'attaque nécessite une perturbation quasi nulle.

3. Contributions Clés

1. Analyse de la vulnérabilité de l'informativité : Démonstration qu'une transformation linéaire inversible peut rendre des données informatives non informatives pour la forte observabilité en élargissant le sous-espace non observable.
2. Méthode de synthèse constructive : Développement d'un algorithme explicite pour générer des attaques furtives qui injectent un couple propre malveillant spécifique dans l'ensemble de modèles déduit des données.
3. Conditions de faisabilité : Établissement de critères géométriques et de rang vérifiables directement sur les matrices de données pour déterminer si un jeu de données est vulnérable à ce type de manipulation.
4. Métrique de vulnérabilité : Formulation d'un problème d'optimisation pour calculer la perturbation minimale nécessaire, fournissant une mesure quantitative de la robustesse des certificats d'informativité.

4. Résultats Numériques

Les auteurs illustrent leur méthode sur un réseau dynamique linéaire à 5 états avec une topologie en ligne.

• Résultat : Une attaque à norme minimale a été calculée avec une erreur relative de seulement $3,7 \times 10^{-3}$.
• Localisation : L'attaque se concentre principalement sur les équations de mise à jour des nœuds 2 et 3.
• Interprétation structurelle : Cette localisation s'explique par la distance en "sauts" (hop distance) par rapport aux nœuds mesurés. Les perturbations appliquées aux nœuds proches des capteurs sont plus efficaces pour briser l'observabilité avec moins d'énergie. Cela met en évidence l'importance de protéger spécifiquement les nœuds critiques du réseau.

5. Signification et Impact

Ce travail révèle une faille fondamentale dans les méthodes de contrôle basées sur les données : la confiance accordée aux certificats d'informativité (basés sur le rang des matrices) peut être compromise par des transformations subtiles et furtives.

• Sécurité : Il montre que même des données "riches" (plein rang) peuvent être manipulées pour masquer des dynamiques instables ou non observables, rendant la synthèse de contrôleurs (comme les observateurs ou les contrôleurs LMI) impossible ou dangereuse.
• Défense : La métrique de norme minimale proposée offre un outil pour évaluer la robustesse d'un jeu de données avant son utilisation.
• Perspectives : L'article ouvre la voie à de nouvelles recherches sur la détection d'attaques basées sur les sous-espaces invariants et la récupération de données, ainsi que sur l'extension de ces attaques à d'autres propriétés comme la commandabilité.

En résumé, l'article démontre que l'informativité des données n'est pas une propriété absolue mais relative à la transformation subie, et que des attaquants sophistiqués peuvent exploiter cette faiblesse avec des perturbations extrêmement faibles.