Résumé Technique : Le Filtre de Kalman du Score

Énoncé du Problème

Le filtrage bayésien non linéaire fait face à un obstacle central dans la représentation de la distribution de croyance lorsque la dynamique du système est non linéaire et que les croyances résultantes sont non gaussiennes (par exemple, asymétriques, courbes ou multimodales). Bien que les filtres gaussiens (EKF, UKF, EnKF) soient efficaces, ils ne peuvent pas représenter ces formes de densité complexes. Les filtres à particules peuvent représenter des densités arbitraires, mais souffrent de coûts de calcul élevés en raison du grand nombre de particules requis pour la convergence.

Une alternative prometteuse est le filtrage basé sur les moments, qui propage les moments de la densité de croyance et reconstruit la densité à partir de ceux-ci. Les approches récentes, telles que le filtre à moments Maximum d'Entropie (MaxEnt), utilisent la famille exponentielle polynomiale pour représenter ces densités. Cependant, ces méthodes nécessitent l'évaluation de la fonction de partition $Z(\lambda)$ et de ses gradients pour ajuster les paramètres de la distribution aux moments propagés. Ces évaluations impliquent des intégrales de dimension $n$ dont les coûts augmentent de manière exponentielle ($O(G^n)$), limitant les applications démontrées à des systèmes de faible dimension ($n \le 4$).

Méthodologie

L'article propose le Filtre de Kalman du Score (SKF), une méthode qui élimine le besoin d'évaluation de la fonction de partition en combinant l'appariement de scores (score matching) avec l'identité de Stein. L'approche opère entièrement par algèbre linéaire, évitant l'intégration numérique et l'optimisation itérative.

1. Appariement de Scores pour la Reconstruction de Densité

Au lieu de maximiser l'entropie (ce qui nécessite $Z(\lambda)$), le SKF ajuste le modèle de la famille exponentielle polynomiale $p(x; \lambda) \propto \exp(-\lambda \cdot \phi(x))$ aux moments propagés en utilisant l'appariement de scores.

• Mécanisme : La fonction de score $s(x; \lambda) = \nabla_x \log p(x; \lambda)$ est indépendante de la constante de normalisation $Z$. En minimisant la divergence de Fisher entre le score du modèle et le score des données, la fonction objectif se réduit à une forme quadratique en $\lambda$.
• Résultat : Les paramètres optimaux $\lambda^*$ sont obtenus en résolvant un unique système linéaire $A\lambda = b$, où la matrice $A$ et le vecteur $b$ sont assemblés directement à partir des moments propagés. Cela réduit le coût d'ajustement de la densité à $O(M^3)$ (où $M$ est le nombre de fonctions de base), éliminant l'échelle exponentielle avec la dimension $n$.
• Garantie Théorique : Le Théorème 1 établit que si la densité vraie appartient à la famille exponentielle polynomiale, l'appariement de scores récupère les paramètres exacts, équivalents à la solution MaxEnt.

2. Fermeture de Stein pour la Hiérarchie des Moments

Pour les systèmes non linéaires, les équations de propagation des moments (dérivées via la formule de Dynkin) ne se ferment pas ; les moments d'ordre supérieur dépendent de moments d'ordre encore plus élevé.

• Mécanisme : Le SKF exploite l'identité de Stein, qui fournit des relations algébriques entre les moments d'ordres différents, paramétrées par les coefficients de score $\lambda$.
• Application : Lors de l'étape de prédiction, l'identité de Stein est utilisée pour exprimer les moments d'ordre supérieur non fermés en fonction des moments d'ordre inférieur et du $\lambda$ courant. Cette « fermeture de Stein » permet de fermer la hiérarchie des moments sans supposer la gaussianité ni évaluer $Z$.
• Fermeture Active : Pour les systèmes structurés (par exemple, des oscillateurs couplés), la méthode peut restreindre la fermeture aux seuls moments spécifiques demandés par le générateur du système, maintenant ainsi l'efficacité computationnelle dans les hautes dimensions.

3. Mise à Jour Bayésienne et Récupération des Moments

• Mise à jour : Pour les modèles de mesure polynomiaux avec un bruit gaussien, le score de vraisemblance est polynomial. Les paramètres de score a posteriori sont mis à jour par une simple addition : $\lambda^+ = \lambda^- + \lambda_{lik}$, analogue à la mise à jour du filtre de Kalman sous forme d'information.
• Récupération : Après la mise à jour, les moments a posteriori sont récupérés à partir des nouveaux paramètres $\lambda^+$ en résolvant un système linéaire dérivé de l'identité de Stein, évitant à nouveau $Z$.
• Cohérence : Une étape de raffinement itératif peut être appliquée pour assurer la cohérence mutuelle entre les moments récupérés et les paramètres mis à jour.

4. Cas Particulier

L'article démontre que lorsque l'ordre polynomial $r=2$, le SKF se réduit exactement au filtre de Kalman sous forme d'information classique, l'établissant comme une généralisation stricte du cas linéaire-gaussien.

Contributions Clés

1. Reconstruction par Appariement de Scores : Les auteurs montrent que pour la famille exponentielle polynomiale, l'appariement de scores réduit l'ajustement de densité à une unique résolution linéaire sur les moments propagés, éliminant le besoin d'évaluation de la fonction de partition, d'optimisation itérative ou de quadrature numérique.
2. Fermeture de Stein et Récupération A Posteriori : L'article introduit une méthode pour fermer la hiérarchie des moments et récupérer les moments a posteriori en utilisant l'identité de Stein paramétrée par les coefficients d'appariement de scores. Les deux étapes sont formulées comme des résolutions linéaires.
3. Le Filtre de Kalman du Score (SKF) : Un algorithme de filtrage complet est introduit qui effectue chaque étape de la boucle prédiction-mise à jour par algèbre linéaire.
4. Évolutivité et Performance : Le SKF est évalué sur des réseaux d'oscillateurs couplés, s'échellant avec succès jusqu'à $n=20$. Il rapporte une erreur quadratique moyenne (RMSE) inférieure à celle des filtres EKF, UKF, EnKF et des filtres à particules de référence sur des benchmarks synthétiques.
5. Récupération Théorique : L'article vérifie que le SKF récupère exactement le filtre de Kalman sous forme d'information à $r=2$.

Résultats Expérimentaux

Les auteurs ont évalué le SKF sur plusieurs systèmes :

• Cinématique du Corps Ride SE(2) : Avec une dérive et une diffusion linéaires ($\bar{d}=0$), le SKF correspond aux références de Monte Carlo (MC) à moins de 0,5 %. L'appariement de scores à $r=4$ capture avec succès des formes courbes non gaussiennes que les ajustements gaussiens manquent.
• Dynamique Stochastique de Lotka-Volterra : Avec une interaction bilinéaire ($\bar{d}=1$), le SKF avec fermeture de Stein correspond à la variance MC à moins de 0,065 % et aux moments d'ordre supérieur à moins de 2–7 %.
• Oscillateurs de Duffing Couplés : Dans un cadre de haute dimension ($n=2N$ jusqu'à $n=20$), le SKF surpasse systématiquement les EKF, UKF, EnKF et un filtre bootstrap de 500k particules en termes de RMSE moyenne. Les filtres gaussiens convergent vers une bande d'erreur similaire, suggérant que la limitation provenait de l'approximation gaussienne plutôt que de la loi de mise à jour.
• Efficacité Computationnelle : Sur un seul CPU d'ordinateur portable, le temps d'exécution du SKF pour $n=10$ (41s) était significativement inférieur à celui du PF à 500k particules (312s). La méthode évite le coût exponentiel de l'évaluation de la fonction de partition requis par les approches basées sur MaxEnt (MEM-KF), qui devient ingérable pour $n > 4$.

Signification et Revendications

L'article revendique que le SKF fournit une voie sans fonction de partition vers le filtrage par moments d'ordre élevé. En remplaçant l'évaluation à coût exponentiel de la fonction de partition par des résolutions linéaires à coût polynomial, la méthode rend le filtrage bayésien non linéaire traitable pour des systèmes de dimensions supérieures ($n=20$) sur du matériel standard.

Les auteurs positionnent le SKF comme un compromis entre les filtres gaussiens (efficaces mais inexacts pour des croyances non gaussiennes) et les filtres à particules (précis mais coûteux). La méthode conserve les avantages computationnels des approches basées sur les moments tout en surmontant le goulot d'étranglement principal (évaluation de la fonction de partition) qui les limitait auparavant aux faibles dimensions. L'article note modestement que si la méthode gère bien la multimodalité et l'asymétrie, elle suppose que la dynamique et les statistiques du bruit sont suffisamment précises pour que la propagation des moments soit utile, et elle ne résout pas intrinsèquement la mauvaise spécification du modèle.