📊 statistics

A convergent scheme for the Bayesian filtering problem based on the Fokker--Planck equation and deep splitting

Cet article présente un schéma numérique convergent pour le problème de filtrage bayésien, combinant une approximation de l'équation de Fokker-Planck via une méthode de « deep splitting » et une mise à jour exacte par la formule de Bayes, afin de surmonter la malédiction de la dimensionnalité tout en garantissant des taux de convergence théoriques et empiriques.

Auteurs originaux : Kasper Bågmark, Adam Andersson, Stig Larsson, Filip Rydin

Publié 2026-04-21

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Kasper Bågmark, Adam Andersson, Stig Larsson, Filip Rydin

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous essayez de suivre un ours polaire qui se déplace dans une tempête de neige épaisse. Vous ne le voyez pas directement, mais de temps en temps, vous entendez un craquement de branche ou voyez une trace de patte (ce sont vos observations). Votre but est de deviner exactement où se trouve l'ours à chaque instant, en tenant compte de la façon dont il se déplace habituellement et de ce que vous venez d'entendre.

En mathématiques et en informatique, c'est ce qu'on appelle le problème du filtrage bayésien. C'est un défi énorme, surtout si l'ours n'est pas seul, mais si vous devez suivre une meute de 10 ours, ou pire, un troupeau de 10 millions d'animaux (c'est ce qu'on appelle la dimensionnalité). Plus il y a d'ours, plus c'est difficile, et les méthodes classiques deviennent si lentes qu'elles sont inutilisables.

Voici comment les auteurs de cet article (Bagmark, Andersson, Larsson et Rydin) ont trouvé une nouvelle façon de résoudre ce problème, en utilisant l'intelligence artificielle.

1. Le Problème : La "Malédiction de la Dimension"

Imaginez que vous devez dessiner la carte de la probabilité de l'endroit où se trouve l'ours.

Méthodes classiques : C'est comme essayer de remplir un tableau Excel géant avec une case pour chaque position possible. Si vous avez 10 ours, le tableau devient si grand qu'il n'y a plus assez de place sur Terre pour le stocker. C'est la "malédiction de la dimension".
Méthodes existantes (Filtres à particules) : C'est comme envoyer 10 000 petits robots pour chercher l'ours. Ça marche bien pour quelques robots, mais si vous avez besoin de millions pour être précis, le coût en énergie et en temps devient astronomique.

2. La Solution : Une "Recette en Deux Temps"

Les auteurs proposent une méthode hybride qui combine deux étapes, un peu comme cuisiner un plat complexe :

Étape A : La Prédiction (La "Météo" de l'ours)

Entre deux observations (entre deux craquements de branches), l'ours se déplace de manière aléatoire. Pour prédire où il pourrait être, les mathématiciens utilisent une équation complexe appelée l'équation de Fokker-Planck.

L'analogie : Imaginez que vous essayez de prédire comment une goutte d'encre se diffuse dans un verre d'eau agité. C'est très difficile à calculer précisément.
L'astuce : Au lieu de calculer cela point par point, ils utilisent une technique appelée "Deep Splitting" (Fission Profonde). C'est comme si on utilisait un réseau de neurones (une forme d'intelligence artificielle) pour apprendre à deviner la forme de l'encre qui se diffuse, sans avoir à calculer chaque molécule d'eau.

Étape B : La Mise à Jour (Le "Flash" de l'observation)

Quand vous entendez un bruit ou voyez une trace, vous devez corriger votre prédiction.

L'analogie : Si vous pensiez que l'ours était au nord, mais que vous entendez un grognement au sud, vous devez immédiatement ajuster votre carte.
La méthode : Ici, ils utilisent une formule mathématique classique (la formule de Bayes) pour "rectifier" instantanément la carte de probabilité grâce à la nouvelle information.

3. Pourquoi c'est révolutionnaire ?

L'article prouve deux choses importantes :

La Précision (Convergence) : Ils ont démontré mathématiquement que leur méthode s'approche de la vérité très rapidement. Plus on affine les calculs (comme augmenter le nombre de pas dans une marche), plus le résultat est proche de la réalité. C'est comme si on prouvait que votre GPS ne vous fera pas tourner en rond, mais vous amènera exactement à destination.
La Puissance (Haute Dimension) : Leur méthode fonctionne même quand il y a beaucoup de variables (jusqu'à 10 dimensions dans leur exemple, et potentiellement beaucoup plus). Là où les méthodes classiques s'effondrent, celle-ci reste robuste.

4. L'Analogie Finale : Le Chef Cuisinier et l'IA

Imaginez que vous êtes un chef cuisinier (le filtre) qui doit préparer un plat (la distribution de probabilité) pour un grand nombre de convives (les dimensions).

L'ancien chef essayait de mesurer chaque grain de sel individuellement avec une loupe. C'était lent et impossible pour 1000 convives.
Le nouveau chef (notre méthode) utilise un assistant robotique (le réseau de neurones) qui a appris, en regardant des milliers de vidéos de cuisine, à deviner la quantité de sel parfaite en une fraction de seconde.
Quand un client fait un bruit (une observation), le chef ajuste immédiatement la recette grâce à son expérience.

En Résumé

Cet article présente un nouvel outil mathématique et informatique qui permet de suivre des objets complexes et invisibles dans des environnements très compliqués. En combinant les lois de la physique (l'équation de Fokker-Planck) avec la puissance de l'apprentissage automatique (Deep Learning), ils ont créé un système capable de faire des prédictions précises là où les ordinateurs classiques échouent.

C'est une avancée majeure pour des domaines comme :

La météo : Prévoir l'évolution des tempêtes.
La finance : Suivre les mouvements des marchés.
La robotique : Aider un robot à se repérer dans une usine encombrée.
Le suivi de cibles : Localiser des objets en mouvement dans un brouillard numérique.

En gros, ils ont trouvé un moyen de "voir à travers le brouillard" beaucoup plus efficacement que jamais auparavant.

1. Problématique et Contexte

Le problème central abordé est le filtrage bayésien non linéaire dans des espaces d'états de haute dimension. L'objectif est d'estimer la densité de probabilité d'un état caché $S_t$ (solution d'une équation différentielle stochastique - EDS) à partir d'observations bruitées et partielles $y_{0:k}$ prises à des temps discrets.

Défis actuels : Les méthodes classiques (comme le filtre de Kalman) supposent souvent une unimodalité (distribution gaussienne) et échouent sur des systèmes non linéaires complexes. Les méthodes de Monte Carlo séquentielles (filtres à particules) sont asymptotiquement exactes mais souffrent du fléau de la dimensionnalité : le nombre de particules nécessaire pour maintenir une précision donnée croît exponentiellement avec la dimension de l'état.
Limites des méthodes PDE : Les approches basées sur la résolution directe de l'équation de Fokker-Planck (ou de Kushner-Stratonovich) via des différences finies ou des éléments finis deviennent numériquement intractables dès que la dimension de l'espace d'état dépasse 3 ou 4.
Objectif de l'article : Développer un schéma numérique convergent, capable de gérer des dimensions élevées (jusqu'à 10 et au-delà), en combinant l'équation de Fokker-Planck avec des techniques d'apprentissage profond (Deep Learning) via une méthode de "Deep Splitting".

2. Méthodologie Proposée

L'approche proposée est un algorithme de filtrage prédictif-mise à jour (prediction-update) en ligne, conçu pour approximer la densité de filtrage non normalisée.

A. Formulation Mathématique

Le système est modélisé par :

Dynamique de l'état : Une EDS $dS_t = \mu(S_t)dt + \sigma(S_t)dB_t$ .
Observations : Des variables discrètes $O_k \sim g(O_k | S_{t_k})$ .
Équation d'évolution : Entre deux observations, la densité non normalisée $p(t, x)$ évolue selon l'équation de Fokker-Planck (l'adjoint du générateur infinitésimal $A^*$ ). À chaque temps d'observation, une mise à jour bayésienne est appliquée via la fonction de vraisemblance $L$ .

B. Le Schéma "Deep Splitting"

L'innovation réside dans la discrétisation temporelle et l'approximation de l'opérateur d'évolution :

Discrétisation temporelle : L'intervalle entre deux observations est divisé en $N$ sous-intervalles fins.
Représentation de Feynman-Kac : Au lieu de résoudre l'EDP directement, les auteurs utilisent une représentation probabiliste (Feynman-Kac) de la solution. Cela permet de transformer le problème de résolution d'EDP en un problème d'optimisation d'espérance conditionnelle.
Opérateur de splitting : L'opérateur $A^*$ est décomposé en un opérateur de diffusion $A_b$ (associé à un processus auxiliaire $X$ avec un drift $b$ ) et un opérateur de premier ordre $F_b$ .
Approximation par Réseaux de Neurones :
- La densité est approximée par un réseau de neurones $u_\theta(x, y)$ .
- À chaque pas de temps, le réseau est entraîné pour minimiser l'erreur quadratique entre la prédiction et la valeur cible donnée par l'espérance conditionnelle (via des échantillons Monte Carlo du processus auxiliaire $X$ ).
- L'activation "Energy-based" (exponentielle négative) est utilisée pour garantir que la densité reste positive et pour faciliter l'apprentissage de la forme non normalisée.

C. Avantages de l'approche

Indépendance de la dimension : La complexité de l'entraînement des réseaux de neurones ne dépend pas exponentiellement de la dimension de l'espace d'état, contrairement aux grilles classiques.
Filtrage en ligne : Une fois le réseau entraîné (sur la structure du problème, pas sur une trajectoire spécifique), il peut traiter de nouvelles séquences d'observations instantanément.
Gestion du bruit : La méthode utilise un processus auxiliaire $X$ dont le drift $b$ peut être choisi (par exemple selon l'équation 5 du papier) pour optimiser la convergence et la stabilité numérique.

3. Contributions Clés

Nouveau Schéma Convergent : Introduction d'un schéma numérique basé sur le "Deep Splitting" spécifiquement adapté au filtrage avec observations discrètes et dynamique continue.
Analyse de Convergence Théorique :
- Démonstration d'un taux de convergence fort de l'ordre 1 en temps ( $O(\tau)$ ) dans la norme $L^\infty$ , sous une condition de Hörmander parabolique.
- La preuve repose sur des estimations d'erreur locales et globales, en utilisant la régularité des solutions de l'équation de Fokker-Planck.
- Le taux de convergence est indépendant de la distribution des données d'observation.
Résultat Corollaire : La convergence est également établie pour l'approximation de l'équation de Fokker-Planck seule, détachée du problème de filtrage.
Implémentation et Validation : Mise à disposition du code et validation sur des exemples non linéaires, y compris un cas en 10 dimensions.

4. Résultats Numériques

Les auteurs ont validé leur méthode sur plusieurs exemples :

Exemples 1D (Convergence) :
- Un processus avec drift $\tanh(x)$ (satisfaisant les hypothèses théoriques) et un processus bistable (non satisfaisant les hypothèses).
- Le processus $\tanh$ montre une convergence empirique proche de l'ordre 1, confirmant la théorie.
- Le processus bistable montre une convergence d'ordre 0.5, suggérant que les hypothèses de régularité sont cruciales pour l'ordre optimal.
Exemple 10D (Haute Dimension) :
- Application à un processus non linéaire en 10 dimensions (drift couplé via une matrice aléatoire et fonction $\tanh$ ).
- Comparaison : La méthode (EBDS - Energy-Based Deep Splitting) est comparée à un Filtre de Kalman d'Ensemble (EnKF) et un Filtre à Particules (PF).
- Performance :
  - L'EBDS est robuste et précis.
  - Pour atteindre une précision comparable en termes de "Negative Log-Likelihood" (NLL), le Filtre à Particules nécessite environ $10^6$ particules, tandis que la méthode proposée utilise des réseaux de neurones et des échantillons Monte Carlo beaucoup moins coûteux en termes de dimension.
  - La méthode capture mieux la forme globale de la densité de filtrage que la simple estimation de la moyenne (MAE).

5. Signification et Impact

Ce travail est significatif car il comble un fossé important entre la théorie du filtrage bayésien et la pratique en haute dimension :

Résolution du Fléau de la Dimensionnalité : Il offre une alternative viable aux filtres à particules pour des systèmes non linéaires en dimensions modérées à élevées (10 à 20+), là où les méthodes traditionnelles échouent ou deviennent prohibitivement coûteuses.
Garanties Théoriques : Contrairement à de nombreuses applications du "Deep Learning" en sciences appliquées qui sont purement empiriques, ce papier fournit une preuve rigoureuse de convergence et des bornes d'erreur, renforçant la crédibilité de l'approche pour des applications critiques.
Flexibilité : La méthode fonctionne en ligne et ne nécessite pas de réentraînement pour chaque nouvelle séquence d'observations, ce qui la rend adaptée aux systèmes temps réel.
Perspectives : L'approche ouvre la voie à l'application du filtrage bayésien dans des domaines complexes comme la météorologie (dimensions $10^7$ ), la finance quantitative ou le suivi de cibles multiples, où la connaissance de la densité de probabilité complète est essentielle.

En résumé, cet article propose une méthode hybride robuste, théoriquement fondée et numériquement efficace pour résoudre le problème de filtrage non linéaire en haute dimension, en exploitant la puissance des réseaux de neurones pour approximer les solutions d'EDP stochastiques.