Résumé Technique : FlowMo-WM

Énoncé du Problème

Les modèles de mondes visuels conditionnés par l'action standards supposent souvent que le mouvement futur est principalement déterminé par les entrées de commande immédiates. Cependant, dans des scénarios réels impliquant des véhicules de surface aquatiques et des objets flottants, les états futurs sont significativement influencés par l'élan de l'objet (inertie) et la dérive ambiante cachée (ex. courants d'eau, vent) qui ne sont pas directement observables à partir d'une seule image visuelle.

Les approches actuelles peinent dans ces contextes car :

1. Observabilité Partielle : Une seule image révèle la pose, mais pas l'état complet (vélocité, élan ou flux de courant) nécessaire pour prédire l'évolution future.
2. Dynamiques Cachées : La dérive et l'élan sont des variables latentes qui doivent être inférées à partir de l'historique des actions et des observations, pourtant de nombreux modèles existants ne séparent pas explicitement les dynamiques contrôlables des variations environnementales exogènes.
3. Erreur sur Long Horizon : Les petites erreurs d'estimation de l'élan caché ou de la dérive se cumulent au fil du temps, entraînant des inexactitudes significatives dans la planification et la prédiction à long horizon, même si les prédictions à court terme semblent précises.

Méthodologie : FlowMo-WM

Les auteurs proposent FlowMo-WM, un modèle de monde latent visuel entraînable de bout en bout, conçu pour inférer le mouvement centré sur l'objet et la dérive ambiante cachée sans supervision directe des champs de flux ou de capteurs de vitesse.

Architecture

Le modèle factorise l'historique image-action en deux branches temporelles distinctes :

1. État de l'Historique Court ($z_t$) : Un état latent dérivé des $K_z=8$ paires image-action les plus récentes. Cette branche capture le mouvement centré sur l'objet, incluant la pose, le mouvement de type vélocité, le retard de l'actionneur et la réponse de contrôle récente.
2. Contexte de l'Historique Long ($c_t$) : Un contexte latent dérivé d'un historique plus long et espacé (32 étapes avec un pas de 4). Cette branche résume les influences exogènes variant lentement, spécifiquement la dérive ambiante cachée inférée à partir des écarts accumulés entre le mouvement commandé et le mouvement observé.

Transition Latente et Conception Résiduelle

L'innovation centrale réside dans la fonction de transition latente, qui utilise une transition résiduelle à contexte nul pour séparer les dynamiques de base des effets de dérive :
$$z_{t+1} = z_t + F_\theta(z_t, a_t) + R_\theta(z_t, a_t, c_t) - R_\theta(z_t, a_t, 0)$$

• $F_\theta$ : Modélise la dynamique de base conditionnée par l'action.
• $R_\theta$ : Modélise les effets de dérive dépendants du contexte.
• Soustraction de Contexte Nul : En soustrayant $R_\theta(z_t, a_t, 0)$, le modèle garantit que lorsque le contexte $c_t$ est annulé, la contribution de la dérive est exactement supprimée. Cela permet des études d'ablation propres où la composante de dérive peut être isolée sans altérer la logique de transition de base.

Entraînement et Entrées

• Entrées : Le modèle reçoit uniquement des images RGB de vue de dessus nettes (concaténées avec des cartes de coordonnées) et des historiques d'actions. Il ne reçoit pas de vecteurs de flux, de cibles de vitesse, de capteurs de courant ou d'états privilégiés du simulateur.
• Cibles : Le modèle prédit les poses normalisées futures ($x, y, \cos\theta, \sin\theta$) plutôt que de reconstruire les images futures.
• Fonction de Perte : L'entraînement minimise une perte de déploiement de pose sur 60 étapes, combinée à une reconstruction de la pose actuelle et des pertes de delta de mouvement.

Contributions Clés

1. Formulation : Une formulation de modélisation de monde visuel où l'élan de l'objet et le transport environnemental sont inférés uniquement à partir de l'historique image-action, sans étiquettes de flux explicites.
2. Factorisation : Une nouvelle architecture de factorisation temporelle court/long couplée à une transition résiduelle à contexte nul, séparant efficacement les dynamiques contrôlables de la dérive ambiante variant lentement.
3. Évaluation : Évaluation complète dans des tâches de véhicules de surface aquatiques affectés par le flux, incluant la prédiction en boucle ouverte, la planification basée sur l'échantillonnage, les ablations de contexte au moment de la prédiction et l'analyse de représentation via des sondes linéaires gelées.

Résultats Expérimentaux

Le modèle a été évalué dans un simulateur 2D aquatique avec des morphologies de véhicules randomisées (bateaux à deux propulseurs et triangulaires), des paramètres physiques et dix familles de champs de flux diverses (ex. uniforme, vortex, cisaillement, turbulent).

Précision de Prédiction

• Performance à Long Horizon : FlowMo-WM surpasse significativement les own baselines de paramètres équivalents (LeWorldModel, PlaNet/RSSM, TD-MPC2) en prédiction à long horizon.
  • À l'horizon 20 : FlowMo-WM a obtenu une erreur de position de 0,151 contre 0,223 pour la baseline la plus proche (TD-MPC2).
  • À l'horizon 60 : FlowMo-WM a obtenu 0,344 contre 0,426 pour la baseline la plus proche (PlaNet/RSSM).
  • Cela représente respectivement environ 32 % et 19 % d'erreur de position en moins.
• Ablations de Contexte :
  • Annulation du Contexte : Supprimer le contexte inféré ($c_t=0$) a considérablement augmenté les erreurs (pos@60 est passé à 0,840), confirmant que le contexte est critique pour la stabilité sous l'effet de la dérive.
  • Mélange du Contexte : Utiliser le contexte d'un autre échantillon a encore plus dégradé les performances (pos@60 est passé à 1,100), prouvant que le modèle repose sur le contexte spécifique inféré plutôt que sur une capacité latente générique.

Performance de Planification

• Taux de Succès : Dans les tâches de planification en aval (atteindre des cibles, maintien de position, points de passage), FlowMo-WM a atteint un taux de succès de 98,5 % sur tous les épisodes, surpassant les autres modèles de monde appris (91,0 % – 93,1 %).
• Efficacité : Les planificateurs de FlowMo-WM ont nécessité moins d'énergie et moins d'étapes pour atteindre les objectifs par rapport aux baselines, particulièrement dans des conditions de flux difficiles.
• Robustesse : Le bateau triangulaire (plus actionné) était moins sensible aux variations de flux que le bateau à deux propulseurs sous-actionné, mais FlowMo-WM a maintenu une haute performance pour les deux morphologies.

Analyse de Représentation

• Décodage de l'Élan : Des sondes linéaires gelées ont montré que l'élan est linéairement décodable à partir de l'état latent combiné ($R^2 = 0,667$), bien que la vélocité ne soit jamais une cible d'entraînement.
• Encodage de la Dérive : Le flux local et la dérive n'étaient pas trivialement décodables de manière linéaire, suggérant que la branche de contexte encode un code latent utile à la tâche pour la prédiction plutôt que de stocker un vecteur physique direct du courant.

Signification et Revendications

L'article affirme que FlowMo-WM répond à un mode de défaillance spécifique des modèles de monde visuels conditionnés par l'action : l'incapacité à rendre compte de l'élan caché et de la dérive ambiante.

• Portée Modeste : Les auteurs déclarent explicitement que les expériences actuelles sont limitées à des observations rendues en 2D de vue de dessus. Ils reconnaissent que l'extension à de la vidéo réelle nécessiterait de gérer les changements de point de vue, l'encombrement, l'incertitude de segmentation et les perturbations 3D.
• Limites de Généralisation : Le modèle n'est pas censé réussir si le flux ambiant dépasse l'autorité de contrôle du véhicule ou si les caractéristiques du flux sortent de la distribution d'entraînement.
• Intuition Centrale : Les résultats suggèrent que pour les environnements physiques ouverts, les modèles de monde visuels doivent représenter non seulement le contrôle commandé, mais aussi comment les objets continuent de bouger en raison de l'inertie et comment l'environnement non observé les transporte. Le contexte ambiant inféré est fonctionnellement nécessaire pour une prédiction stable à long horizon dans de tels environnements.