🤖 AI

Your Probabilistic JEPA Is Secretly a Hidden Markov Model: A State-Space Interpretation of Joint-Embedding Predictive Learning

Cet article établit que les modèles de prédiction par intégration conjointe probabiliste (JEPA) sont fondamentalement équivalents aux modèles de Markov cachés en démontrant leur structure computationnelle partagée d'inférence, de propagation et d'émission, et introduit la variante Markov-Chain JEPA pour fournir une interprétation par espace d'états fondée sur des principes avec une cohérence multi-horizon exacte.

Auteurs originaux : Yongchao Huang

Publié 2026-08-17

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Yongchao Huang

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous essayiez d'apprendre à un robot comment comprendre le monde. Vous ne voulez pas seulement qu'il mémorise des images ; vous voulez qu'il apprenne comment le monde change. Dans le domaine de l'intelligence artificielle, il existe une idée populaire appelée « Architectures de Prédiction à Imbrication Conjointe » (ou JEPA pour Joint-Embedding Predictive Architectures). Voyez cela comme la façon dont un robot devine ce qui va se passer ensuite. Au lieu d'essayer de redessiner parfaitement une photo floue (ce qui est difficile et gaspille souvent de l'énergie cérébrale), le robot devine l'idée de la photo suivante. Il apprend une « carte mentale » compressée du futur.

Mais la grande question est la suivante : que se passe-t-il réellement à l'intérieur du cerveau de ce robot lorsqu'il fait ces suppositions ? Pendant longtemps, les scientifiques ont traité ces « cartes mentales » comme des boîtes noires mystérieuses. Cependant, il existe un outil mathématique plus ancien et très célèbre, le « Modèle de Markov Caché » (HMM). Vous pouvez voir l'HMM comme une histoire de détective classique : il y a des indices cachés (les « états cachés ») que l'on ne peut pas voir directement, mais que l'on peut déduire en observant les preuves (les « observations ») et en sachant comment les indices changent habituellement au fil du temps. Le grand mystère a été : ces robots d'IA modernes et de haute technologie utilisent-ils secrètement cette vieille logique de détective, ou sont-ils quelque chose d'entièrement nouveau ?

Cet article, intitulé « Votre JEPA probabiliste est secrètement un Modèle de Markov Caché », plonge directement dans ce mystère. L'auteur, sous la direction de Yongchao Huang, soutient que lorsque vous construisez un type spécifique d'IA appelé « JEPA à goulot d'étranglement d'information prédictive » (PIB-VJEPA), vous construisez en réalité un Modèle de Markov Caché déguisé. Il démontre que les trois étapes principales de l'IA — regarder le passé pour deviner le présent, prédire comment le futur va changer, puis imaginer à quoi ressemblera ce futur — correspondent parfaitement aux trois étapes d'un HMM classique.

Pour prouver qu'il ne s'agit pas d'une simple similitude vague, l'auteur a créé une nouvelle version plus simple de l'IA, le « JEPA à chaîne de Markov » (MCJEPA). Au lieu d'utiliser un réseau neuronal complexe pour deviner le futur, cette nouvelle IA utilise une « matrice de transition » simple — imaginez cela comme un immense organigramme apprenable ou un livre de règles de jeu de société qui dit : « Si vous êtes dans l'état A, vous avez 70 % de chances de passer à l'état B ». Ils ont testé cela sur des mondes synthétiques et artificiels dont ils connaissaient exactement les règles. Les résultats ont été frappants : l'IA ne s'est pas contentée de bien deviner ; elle a réellement appris les règles exactes du jeu, a découvert les états cachés et a même suivi les lois mathématiques qui régissent les probabilités à travers le temps.

L'article explore également à quel point cette IA est « intelligente ». Il s'avère que si vous forcez l'IA à trop compresser sa mémoire, elle pourrait oublier des détails importants et commencer à commettre des erreurs. Mais si vous la laissez compresser juste assez, elle apprend à écarter le bruit inutile pour ne garder que l'information « essentielle » nécessaire pour prédire le futur. Ce processus est appelé « Markovisation », et c'est comme si l'IA apprenait à être un détective parfait qui ignore les fausses pistes pour se concentrer uniquement sur les indices qui comptent.

La découverte la plus surprenante concerne peut-être la manière dont ces modèles d'IA sont entraînés. L'auteur montre que vous pouvez entraîner exactement la même architecture de robot de deux manières très différentes. Vous pouvez l'entraîner comme un JEPA standard (en devinant simplement la prochaine carte mentale), ou vous pouvez l'entraîner comme un HMM classique (en essayant de prédire la séquence réelle d'événements). Lorsqu'ils ont mélangé ces deux styles d'entraînement, le robot est devenu encore meilleur pour comprendre les règles cachées du monde. Cela suggère que la ligne entre l'« IA moderne » et les « modèles de probabilité classiques » n'est pas un mur, mais une échelle glissante. Selon la façon dont vous enseignez au robot, il peut être un simple devineur, un détective sophistiqué, ou un mélange parfait des deux.

En résumé, l'article suggère que ces systèmes d'IA avancés ne sont pas magiques. Ils sont, par essence, des machines très structurées et logiques qui suivent les mêmes règles que les modèles de Markov cachés classiques que nous connaissons depuis des décennies. La différence est que l'IA moderne est si flexible qu'elle peut apprendre ces règles par elle-même, même à partir de données réelles et désordonnées, et elle peut être entraînée pour être un détective, un prédicteur, ou les deux à la fois.

Résumé technique : « Votre JEPA probabiliste est secrètement un modèle de Markov caché »

Énoncé du problème

Les architectures de type Joint-Embedding Predictive Architectures (JEPA) apprennent en prédisant des représentations cibles à partir de contextes observés plutôt qu'en reconstruisant les observations brutes. Le Variational JEPA (VJEPA) étend cela en prédisant une distribution conditionnelle sur les états latents futurs, et l'extension Predictive Information Bottleneck (PIB) rend la représentation actuelle stochastique pour contrôler la rétention d'information.

Malgré leurs similitudes structurelles avec les modèles d'espace d'états, une correspondance probabiliste précise entre les JEPA temporels entièrement stochastiques et les modèles de Markov cachés (HMM) classiques est restée obscure. Plus précisément, il est ambigu de savoir si l'encodeur de contexte stochastique dans un JEPA agit comme un modèle d'émission ou une distribution de filtrage, et sous quelles conditions la dynamique latente apprise satisfait les exigences rigoureuses de cohérence d'un HMM (par exemple, la cohérence de Chapman–Kolmogorov, l'équivalence de filtrage).

Méthodologie

L'article propose une interprétation par espace d'états du PIB-VJEPA complet et indexé temporellement en décomposant son architecture en trois rôles analogues à un HMM :

Inférence d'état (Filtrage) : L'encodeur de contexte stochastique $q_\theta(Z_t | X_{\le t})$ infère une croyance sur l'état latent actuel à partir de l'historique des observations.
Transition d'état : Un prédicteur probabiliste $p_\phi(Z_{t+1} | Z_t, \xi_t)$ propage l'état latent vers l'avant.
Émission : Un décodeur $p_\psi(X_{t+1} | Z_{t+1})$ , un encodeur cible inversible, ou une implication implicite induite fournit la correspondance état-observation.

Pour rendre cette correspondance concrète et analytiquement traitable, l'auteur introduit le Markov-Chain JEPA (MCJEPA). Dans cette formulation :

L'état latent $Z_t$ est catégoriel (discret).
Le prédicteur est remplacé par une matrice de transition apprise, à lignes stochastiques $A$ .
Les prédictions multi-étapes sont calculées via des puissances de matrice ( $\hat{q}_{t+h} = q_t A^h$ ), garantissant une cohérence Chapman–Kolmogorov exacte (c'est-à-dire que les prédictions directes et composées multi-horizons sont identiques).

L'article généralise ce cadre à :

Transitions conditionnées : Où $A$ est une fonction d'une information latérale $\xi_t$ .
États continus : Remplaçant la matrice par un noyau de Markov (par exemple, des transitions gaussiennes).
Temps continu : En utilisant des matrices génératrices ou des équations différentielles stochastiques.
Limites déterministes : Montrant qu'un JEPA déterministe standard est un cas dégénéré où le noyau de transition devient une Dirac delta.

L'auteur définit quatre niveaux de correspondance de plus en plus forts entre le JEPA et les HMM :

Correspondance computationnelle : Partage du pipeline encodage-transition-émission.
Représentation complète de l'émission : Possède une condition valide état-vers-observation.
Équivalence de séquence de type HMM : Satisfait les conditions de Markov, de cohérence marginale et de cohérence de filtrage (formalisées dans le Théorème 1).
Équivalence de modèle et d'objectif : Entraînement du modèle en utilisant une vraisemblance de séquence de type HMM en plus des objectifs JEPA.

De plus, l'article interprète l'apprentissage du Predictive Information Bottleneck comme un processus de Markovisation : la compression favorise la minimalité (suppression de l'historique redondant), tandis que la prédictibilité résiduelle teste la suffisance (s'assurer qu'aucune information pertinente à la transition n'est écartée).

Contributions clés

Construction de MCJEPA : L'introduction de MCJEPA, qui impose une cohérence de chemin multi-horizon exacte grâce à une matrice de transition partagée, fournissant un pont transparent entre les prédicteurs neuronaux et les chaînes de Markov classiques.
Conditions formelles d'équivalence HMM : La dérivation des conditions suffisantes (Théorème 1) sous lesquelles un JEPA temporel probabiliste admet une représentation exacte de type HMM au niveau de la séquence, clarifiant la distinction entre le rôle de l'encodeur (filtrage) et la direction d'émission.
Cadre de diagnostic : Le développement de diagnostics de « prédictibilité résiduelle » pour tester si un état appris est de Markov suffisant. Si l'historique plus ancien améliore la prédiction au-delà de l'état actuel, la représentation est insuffisante.
Continuum d'objectifs : La démonstration que la même architecture d'état latent peut être entraînée via un continuum d'objectifs : pure prédiction latente JEPA, pure vraisemblance de séquence HMM, ou un hybride des deux.

Résultats expérimentaux

L'auteur a mené quatre expériences contrôlées sur des processus synthétiques avec des structures latentes de vérité terrain connues :

Expérience 1 (Récupération d'HMM fini) : MCJEPA a récupéré avec succès une matrice de transition HMM à 4 états avec une grande précision (ARI $\approx$ 0,98) et un désaccord de chemin quasi nul ( $D_{path} = 0$ ) grâce à la contrainte de matrice partagée. En revanche, les prédicteurs spécifiques à l'horizon (apprenant des matrices indépendantes pour chaque étape) ont obtenu une flexibilité légèrement supérieure dans les régimes ambigus mais ont échoué à maintenir une loi de transition cohérente et compositionnelle.
Expérience 2 (Filtrage vs Preuve locale) : En utilisant des a posteriori oracle, l'étude a montré que le filtrage dépendant de l'historique ( $p(S_t | X_{\le t})$ ) surpasse significativement la preuve locale ( $p(S_t | X_t)$ ) à mesure que l'ambiguïté de l'émission augmente, validant l'interprétation de l'encodeur de contexte JEPA comme un filtre amorti.
Expérience 3 (Compression prédictive) : Dans un processus binaire de second ordre, le modèle a réussi à compresser un historique de 3 bits en une représentation minimale suffisante à 4 états ( $Z_t = (X_{t-1}, X_t)$ ), supprimant le $X_{t-2}$ redondant sans perdre de puissance prédictive. Une compression supplémentaire à un seul bit a entraîné une perte d'information prédictive, détectée par une augmentation brutale du gain d'historique résiduel ( $\Delta_{hist}$ ).
Expérience 4 (Comparaison d'objectifs) : Comparaison des régimes d'entraînement JEPA-seul, de type HMM et Hybride sur la même architecture :
- JEPA-seul a appris un état latent significatif mais présentait une NLL de séquence et une erreur de transition plus élevées.
- Type HMM (vraisemblance de séquence + distillation de filtre) a obtenu la récupération d'état la plus forte (ARI $\approx$ 0,9945) et la plus faible NLL de séquence.
- Hybride (entraînement JEPA + objectifs HMM) a presque comblé l'écart de performance par rapport au régime de type HMM (98,6 % de l'écart de NLL de séquence) tout en conservant l'objectif original de prédiction latente JEPA.
- Crucialement, le régime de type HMM a obtenu des résultats solides sans la perte de prédiction latente JEPA ( $L_{MC}$ ), prouvant que l'architecture est flexible vis-à-vis de l'objectif d'entraînement.

Signification et affirmations

L'article affirme que le JEPA temporel probabiliste n'est pas simplement une alternative aux HMM, mais peut être rigoureusement interprété comme tel sous des conditions structurelles et d'entraînement spécifiques.

Insight structurel : L'encodeur de contexte stochastique dans le PIB-VJEPA joue le rôle d'une distribution de filtrage (inférant les états cachés à partir de l'historique), et non d'un modèle d'émission. La direction d'émission est fournie séparément par un décodeur ou un encodeur inverse.
Principe de Markovisation : L'apprentissage du Predictive Information Bottleneck est formulé comme la construction d'un état de Markov compact et suffisant. La compression favorise la minimalité, tandis que les diagnostics résiduels assurent la suffisance.
Dépendance à l'objectif : Le caractère « HMM » d'un JEPA n'est pas uniquement déterminé par son architecture, mais par son objectif d'entraînement. Bien que l'architecture supporte la sémantique HMM, l'entraînement JEPA standard optimise l'alignement latent, et non la vraisemblance de séquence. Une équivalence complète nécessite une supervision explicite au niveau de la séquence.
Généralité : La correspondance s'étend au-delà de MCJEPA aux prédicteurs neuronaux généraux (continus, récurrents ou d'ordre supérieur) pourvu que l'état latent (éventuellement augmenté de mémoire) satisfasse la propriété de Markov du premier ordre.

L'article conclut que ces résultats fournissent une interprétation par espace d'états pour le JEPA temporel, distinguant les rôles computationnels, la complétude représentationnelle et la sémantique probabiliste imposée par l'objectif d'entraînement.