🤖 machine learning

Relative Entropy Estimation in Function Space: Theory and Applications to Trajectory Inference

Cet article propose un cadre général pour estimer la divergence de Kullback-Leibler dans l'espace des fonctions à partir de données instantanées, offrant ainsi une métrique cohérente et fiable pour évaluer et comparer les méthodes d'inférence de trajectoires, notamment en génomique des cellules uniques.

Auteurs originaux : Chao Wang, Luca Nepote, Giulio Franzese, Pietro Michiardi

Publié 2026-04-23

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Chao Wang, Luca Nepote, Giulio Franzese, Pietro Michiardi

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

🧬 Le Grand Défi : Reconstruire un film à partir de photos figées

Imaginez que vous essayez de comprendre comment une graine devient un arbre. Le problème ? Vous ne pouvez pas observer la plante grandir en continu. La science actuelle (en génétique, par exemple) est comme un photographe qui prend des photos instantanées (des "snapshots") à différents moments, mais qui doit tuer la plante pour prendre chaque photo.

Vous avez donc une pile de photos : une graine, un petit plant, un arbuste, un arbre. Mais vous n'avez pas le film qui relie ces images. Vous ne savez pas exactement comment la plante a bougé entre deux photos. C'est ce qu'on appelle le Trajectory Inference (l'inférence de trajectoire) : essayer de reconstituer le "film" caché à partir de ces photos isolées.

🎬 Le Problème des Métriques Actuelles : "On a l'air bien, mais on bouge mal"

Jusqu'à présent, pour vérifier si un algorithme a bien reconstruit ce film, les scientifiques regardaient simplement si les photos finales ressemblaient aux photos de référence.

L'analogie : Imaginez que vous essayez de deviner le scénario d'un film en regardant seulement la photo de la fin. Si le héros est assis sur un banc à la fin, votre algorithme a peut-être réussi à le mettre sur le banc. Mais est-ce qu'il est arrivé en courant, en marchant, en volant ou en se téléportant ? Les anciennes méthodes ne le voyaient pas. Elles jugeaient le film uniquement sur la photo de fin, ignorant totalement le scénario (la dynamique).

C'est comme si deux voitures arrivaient au même endroit à la même heure : l'une a pris l'autoroute (le bon chemin), l'autre a fait le tour du monde en passant par des chemins de traverse (le mauvais chemin). Si on ne regarde que l'arrivée, on pense qu'elles ont fait le même trajet.

🚀 La Solution : Le "FKL" (La Mesure de la Différence de Scénario)

Les auteurs de ce papier (Chao Wang, Luca Nepote, et leurs collègues) proposent une nouvelle façon de mesurer la qualité de ces reconstructions. Ils appellent cela l'estimation de la Divergence de Kullback-Leibler (KL) dans l'espace des fonctions.

Traduisons cela en langage courant avec une analogie culinaire :

L'ancienne méthode (Marginales) : C'est comme goûter un gâteau à la fin de la cuisson. "Est-ce qu'il est sucré ? Oui. Est-ce qu'il est moelleux ? Oui." Mais vous ne savez pas si le cuisinier a bien mélangé les ingrédients dans le bon ordre ou s'il a utilisé de la farine périmée.
La nouvelle méthode (FKL) : C'est comme regarder la recette et le mouvement du chef pendant qu'il cuisine. Le FKL ne se contente pas de comparer le résultat final ; il compare le mouvement (la trajectoire) de chaque ingrédient.

Comment ça marche ?
Ils utilisent une technique mathématique avancée (le "Functional Flow Matching") pour modéliser non pas des points isolés, mais des courbes continues (les trajectoires).

Ils calculent la différence entre le "scénario idéal" (la vraie dynamique biologique) et le "scénario inventé" par l'algorithme.
Si l'algorithme fait bouger les cellules de manière bizarre (par exemple, en les faisant faire des bonds au lieu de glisser), le FKL le détectera immédiatement, même si la photo finale est parfaite.

🔍 Ce qu'ils ont découvert (Les Résultats)

En testant leur nouvelle règle sur des données réelles (comme la croissance de cellules humaines) et des simulations, ils ont fait des découvertes surprenantes :

Les anciennes règles sont trompeuses : Souvent, les algorithmes classés "meilleurs" par les anciennes méthodes (ceux qui font de belles photos finales) sont en réalité ceux qui racontent les pires histoires. Ils peuvent avoir l'air bien sur une photo, mais leur dynamique est fausse.
Le FKL révèle la vérité : Avec leur nouvelle mesure, on voit clairement qui a bien compris la physique du mouvement. Par exemple, sur un jeu de données appelé "Petal" (qui ressemble à une fleur avec des branches), une méthode semblait excellente avec les anciennes règles, mais le FKL a montré qu'elle avait mal compris comment les branches se séparaient.
Deux types de précision : Ils montrent aussi qu'il y a deux façons d'être "juste" :
- Soit on couvre toutes les possibilités (comme un filet de pêche large), même si on attrape des choses qui ne devraient pas être là.
- Soit on vise très précisément les bons endroits, mais on risque de rater des zones plus rares.
  Le FKL permet de choisir quelle stratégie est la meilleure selon le contexte.

💡 En Résumé

Ce papier dit essentiellement : "Arrêtez de juger un film uniquement par sa photo de fin !"

Ils ont créé un outil mathématique (le FKL) qui permet de comparer les histoires complètes (les trajectoires) plutôt que les simples instantanés. Cela permet aux biologistes et aux data scientists de savoir si leurs modèles de croissance cellulaire racontent une histoire cohérente et réaliste, ou s'ils inventent simplement de beaux dessins qui ne correspondent pas à la réalité biologique.

C'est un pas de géant pour rendre l'intelligence artificielle plus fiable dans la compréhension du vivant.

1. Problématique et Contexte

Le domaine de l'Inférence de Trajectoires (Trajectory Inference - TI) vise à reconstruire des processus dynamiques latents à partir de données d'observation. Ce problème est particulièrement crucial en génomique à cellule unique (scRNA-seq), où les mesures sont destructives : on ne dispose que de "instantanés" (snapshots) de distributions marginales à des temps discrets, sans accès aux trajectoires continues individuelles.

Limites des approches actuelles :

Non-identifiabilité : À partir d'un nombre fini de marginales, les lois d'espace des phases (path-space laws) ne sont pas uniques. Différents modèles de trajectoires peuvent produire les mêmes distributions marginales tout en ayant des dynamiques temporelles radicalement différentes.
Évaluation inadéquate : La plupart des méthodes d'évaluation se basent sur la reconstruction des marginales sur des ensembles de validation tenus à l'écart (held-out marginals). Ces métriques (comme la distance de Wasserstein ou EMD) sont intrinsèquement limitées car elles ignorent les corrélations temporelles et la structure des trajectoires complètes. Elles peuvent donc favoriser des modèles qui ajustent bien les points de données mais qui échouent à capturer la dynamique réelle du système.

L'objectif de cet article est de proposer une méthode pour évaluer directement la divergence entre les mesures de probabilité sur l'espace des fonctions (les trajectoires complètes), offrant ainsi un critère d'évaluation plus fondé et cohérent.

2. Méthodologie : Estimation de la Divergence de Kullback-Leibler Fonctionnelle (FKL)

Les auteurs proposent un cadre général pour estimer la divergence de Kullback-Leibler (KL) entre deux mesures de probabilité définies sur un espace de Hilbert (l'espace des fonctions).

A. Fondements Théoriques

Le cadre repose sur l'utilisation de Functional Flow Matching (FFM) et de la théorie des équations de continuité faibles dans des espaces de dimension infinie.

Hypothèses clés :
1. Existence de la dérivée de Radon-Nikodym entre les deux mesures ( $\nu_A \ll \nu_B$ ).
2. Support de Cameron-Martin : Les mesures sont entièrement supportées sur l'espace de Cameron-Martin associé au bruit de référence (ce qui implique que le bruit doit être "plus rugueux" que la distribution des données).
Dérivation :
En utilisant l'équation de continuité faible et en reliant le gradient logarithmique de la dérivée de Radon-Nikodym aux champs de vitesse (velocity fields) des flots, les auteurs dérivent une expression de la KL divergence qui ne dépend que des champs de vitesse.

Pour deux mesures $\nu_A$ et $\nu_B$ générées par des champs de vitesse $v^A_t$ et $v^B_t$ respectivement, la divergence KL s'exprime comme :
$KL(\nu_A \| \nu_B) = \int_0^1 \int_H \frac{t}{1-t} \| v^A_t(x) - v^B_t(x) \|_{H_{\mu_0}}^2 d\mu^A_t(x) dt$
où $\| \cdot \|_{H_{\mu_0}}$ est la norme de Cameron-Martin associée à la mesure de bruit de référence $\mu_0$ .

B. Implémentation Pratique

Estimation des champs de vitesse : Un opérateur neuronal conditionnel (basé sur MINO - Mesh-Informed Neural Operator) est entraîné pour approximer simultanément les deux champs de vitesse $v^A$ et $v^B$ en utilisant une variable de conditionnement binaire.
Stabilisation : Pour gérer la singularité du terme $\frac{t}{1-t}$ près de $t=1$ , une paramétrisation par soustraction est utilisée pour imposer la condition aux limites $v(x, 1) = x$ , garantissant que la différence des champs de vitesse s'annule à la fin de l'intervalle.
Évaluation : L'estimateur est calculé par une approximation de Monte Carlo sur des échantillons de trajectoires, sans nécessiter l'intégration complète des dynamiques génératives (ODE/SDE).

3. Contributions Clés

Construction théorique : Une formulation générale et rigoureuse pour estimer la KL divergence entre des distributions sur des espaces de fonctions, basée sur une analyse fine de l'absolue continuité et des covariances de bruit de classe trace.
Validation empirique : Démonstration de la précision de l'estimateur sur des cas particuliers (mesures gaussiennes et SDE linéaires) où la valeur analytique de la KL est connue, montrant une correspondance quasi parfaite.
Benchmark exhaustif : Évaluation de méthodes d'inférence de trajectoires d'état de l'art (SBIRR, vSB, MSBM, MFL, AM, TIGON) sur des données synthétiques (Lotka-Volterra, Repressilator, Petal) et réelles (scRNA-seq : EB, hESC, ME, HF).
Nouveau critère d'évaluation : Introduction de la FKL comme métrique de référence pour l'évaluation de la TI, capable de révéler des incohérences invisibles aux métriques marginales.

4. Résultats Principaux

Les expériences révèlent plusieurs conclusions majeures :

Incohérence des métriques marginales : Les classements basés sur les métriques marginales (EMD, W2, SWD, MMD) varient considérablement selon le point de temps de validation, le choix de la métrique et ses hyperparamètres. Des méthodes peuvent être classées comme "meilleures" à un instant donné et "pires" à un autre, sans que cela ne reflète une meilleure dynamique globale.
Adéquation marginales $\neq$ Dynamique correcte : Il est possible d'obtenir de bons scores marginaux tout en ayant une dynamique de trajectoire incorrecte (ex: le modèle TIGON sur le dataset Repressilator produit des trajectoires lisses au lieu d'oscillations caractéristiques, mais obtient de bons scores marginaux).
Supériorité de la FKL : La FKL fournit un classement cohérent et stable qui correspond aux observations visuelles des trajectoires. Elle identifie correctement les méthodes qui capturent la dynamique sous-jacente (ex: SBIRR sur Lotka-Volterra et Repressilator, MSBM sur Petal).
Asymétrie KL (Mode Seeking vs Mode Coverage) :
- La KL inverse ( $KL(\nu_B \| \nu_A)$ ) favorise la précision (mode seeking) : elle pénalise les méthodes qui assignent de la masse à des régions vides de la référence. Elle favorise MSBM.
- La KL directe ( $KL(\nu_A \| \nu_B)$ ) favorise la couverture (mode coverage) : elle pénalise les régions où la référence a de la masse mais pas la méthode estimée. Elle favorise MFL, qui tend à couvrir un espace plus large (parfois au-delà du support des données).

5. Signification et Impact

Ce travail marque un changement de paradigme dans l'évaluation des modèles d'inférence de trajectoires.

Au-delà des instantanés : Il démontre que l'évaluation basée uniquement sur des marginales est insuffisante pour valider des modèles dynamiques, en particulier dans des contextes de données partielles ou destructives.
Critère principiel : La FKL offre un critère d'évaluation fondé sur la théorie de l'information et la géométrie de l'espace des fonctions, permettant une comparaison directe des distributions de trajectoires complètes.
Applications futures : Cette approche ouvre la voie à une meilleure sélection de modèles pour la biologie computationnelle (compréhension de la différenciation cellulaire) et d'autres domaines où la dynamique temporelle est cruciale mais non directement observable.

En résumé, l'article propose une solution mathématiquement fondée et pratiquement applicable pour mesurer la qualité des dynamiques inférées, comblant le fossé entre la reconstruction de données statiques et la compréhension des processus dynamiques sous-jacents.