Towards Explainable Deep Learning for Ship Trajectory Prediction in Inland Waterways

Cette étude propose un modèle de prédiction de trajectoire de navires en voies navigables intérieures basé sur un LSTM et des paramètres de domaine naval pour améliorer l'interprétabilité, révélant que bien que l'architecture d'attention améliore la précision, les poids appris ne reflètent pas toujours une relation causale attendue entre les trajectoires des navires.

L'essentiel

🚢 Le Grand Défi : Prédire la Danse des Bateaux

Imaginez le Rhin comme une autoroute très fréquentée, mais au lieu de voitures, ce sont des péniches et des barges. Le but de cette étude est de créer un "GPS intelligent" capable de prédire où chaque bateau ira dans les 5 prochaines minutes.

Pourquoi est-ce crucial ? Parce que sur l'eau, comme sur la route, il faut éviter les collisions. Mais contrairement à une voiture qui suit une ligne blanche, un bateau peut dériver, tourner lentement et réagir aux autres bateaux autour de lui.

🧠 L'Intelligence Artificielle (IA) et son "Problème de Confiance"

Les chercheurs ont utilisé une technologie puissante appelée Deep Learning (apprentissage profond). C'est comme un cerveau numérique qui a lu des millions d'heures de vidéos de bateaux pour apprendre à prédire leur mouvement.

• Le succès : L'IA est très bonne ! Elle prédit la trajectoire avec une erreur moyenne d'environ 40 mètres sur 5 minutes. C'est bien.
• Le problème : On ne sait pas pourquoi elle prend ses décisions. C'est une "boîte noire". Si l'IA dit "Le bateau va tourner à gauche", on ne sait pas si c'est parce qu'elle a vu un autre bateau arriver, ou si elle a juste deviné. C'est dangereux : si elle se trompe, on ne saura pas pourquoi, et on ne lui fera pas confiance.

🔍 L'Expérience : Donner des "Lunettes de Vision" à l'IA

Pour rendre l'IA explicable (c'est-à-dire qu'on puisse comprendre sa logique), les chercheurs ont ajouté une règle spécifique : le concept de "Domaine du Navire".

Imaginez que chaque bateau porte une bulle invisible autour de lui.

• Si un autre bateau entre dans cette bulle, le premier bateau doit réagir (ralentir, tourner).
• Si un bateau est loin, hors de la bulle, il est ignoré.

Dans cette étude, l'IA a appris à dessiner elle-même la taille de cette bulle selon la situation.

• Exemple : Si deux bateaux arrivent l'un vers l'autre (comme deux voitures en sens inverse), la bulle devrait être grande pour être prudente. S'ils vont dans la même direction, la bulle peut être plus petite.

🧪 Les Trois Versions du "Cerveau"

Les chercheurs ont testé trois versions de leur IA pour voir laquelle comprenait vraiment la logique des bateaux :

1. La version "Tout-en-un" (EA-DA) : L'IA regarde tout le monde en même temps.

   • Résultat : Elle prédit bien, mais... elle a appris à ignorer les bateaux qui arrivent en face ! C'est étrange. Elle a une bulle très petite pour les bateaux opposés. Elle prédit bien par hasard ou par habitude, mais pas parce qu'elle a compris le danger de la collision frontale. C'est comme un conducteur qui évite un accident parce qu'il a de la chance, pas parce qu'il a freiné à temps.

2. La version "Séparée" (E-DDA) : Ici, les chercheurs ont séparé le cerveau en deux parties :

   • Une partie qui regarde seulement le bateau lui-même (comme si il conduisait seul).
   • Une autre partie qui regarde les autres bateaux et décide s'ils sont importants.
   • Résultat : C'est la version la plus logique ! Son "domaine" (sa bulle) s'agrandit correctement quand un bateau arrive en face. Elle a vraiment appris à faire attention aux autres.

💡 La Leçon Principale : "Juste la bonne réponse ne suffit pas"

C'est le point le plus important de l'article :
Une IA peut donner la bonne réponse (prédire la bonne trajectoire) pour les mauvaises raisons (ignorer les autres bateaux).

Si on se contentait de regarder la précision (l'erreur de 40 mètres), on aurait cru que la première version était parfaite. Mais en regardant comment elle pensait (grâce aux bulles invisibles), on a vu qu'elle ne comprenait pas la physique de la collision.

🚀 Conclusion et Avenir

Cette recherche nous dit qu'en matière de sécurité (surtout sur l'eau), la précision ne suffit pas. Il faut aussi que l'IA soit explicable.

• Ce qu'ils ont fait : Ils ont créé un modèle qui peut nous dire : "Je vais tourner à gauche parce que ce bateau rouge est entré dans ma bulle de sécurité."
• Ce qu'ils vont faire : Ils vont utiliser cette logique pour faire des simulations du type "Et si ?" (analyse contrefactuelle). Par exemple : "Et si ce bateau n'avait pas été là, le bateau principal aurait-il changé de trajectoire ?"

En résumé, ils ne veulent pas juste d'un GPS qui a raison, ils veulent un GPS qui peut expliquer sa logique pour que les humains puissent lui faire confiance aveuglément.

Résumé technique

1. Problématique

La prédiction précise des trajectoires des navires dans les voies navigables intérieures (fleuves, canaux) est cruciale pour la sécurité du trafic, l'évitement des collisions et le développement de systèmes de navigation autonome. Bien que les modèles d'apprentissage profond (Deep Learning) aient démontré une grande précision, leur manque d'explicabilité (boîte noire) pose un problème majeur : il est difficile de déterminer si les améliorations de performance sont réellement dues à une prise en compte correcte des interactions entre navires (conscience de la situation navire-à-navire) ou à des corrélations fortuites.

Les défis spécifiques aux voies navigables intérieures incluent :

• La géométrie complexe des rivières et les régulations locales.
• La difficulté de distinguer si un modèle apprend véritablement les interactions ou s'il les ignore simplement dans certains scénarios.
• L'absence de modèles existants capables de prédire simultanément les trajectoires de tous les navires d'une scène (Multi-Ship Trajectory Prediction - MSTP) spécifiquement adaptés au contexte fluvial avec une interprétabilité des mécanismes d'interaction.

2. Méthodologie

Les auteurs proposent une adaptation d'une approche basée sur les LSTM (Long Short-Term Memory) avec des mécanismes d'attention, en introduisant une séparation claire entre la sélection des navires pertinents et la fusion de leurs états cachés.

A. Représentation des Données

Les données d'entrée ($X$) décrivent la position des navires en kilomètres de voie navigable (wkm), l'écart par rapport à l'axe du chenal, et leurs variations temporelles. La prédiction ($Y$) porte sur les distances de déplacement futures.

B. Architecture du Modèle

Le cœur de la méthode repose sur l'utilisation d'un paramètre de domaine navire apprenable (Learnable Ship Domain). Ce paramètre détermine la portée de l'interaction entre deux navires en fonction de trois facteurs discrets :

1. $\Gamma$ (Distance latérale) : Écart entre les navires.
2. $\Theta$ (Direction relative) : Navires en sens opposé, alignés ou stationnaires.
3. $\Phi$ (Taux de changement de distance) : Navires qui se rapprochent ou s'éloignent.

Un tenseur $S(\Gamma, \Theta, \Phi)$ est appris durant l'entraînement. Il définit une "zone d'attention" : si la distance réelle entre deux navires est inférieure à la valeur du domaine apprise pour leur type d'interaction, ils sont considérés comme interactifs.

C. Variantes Architecturales Proposées

Pour analyser l'impact de l'interaction, trois variantes sont comparées :

1. EA-DA (Encoder-Attention-Decoder-Attention) : Intègre l'attention à la fois dans l'encodeur et le décodeur. Les états cachés de tous les navires sont fusionnés.
2. E-DA (Encoder-Decoder-Attention) : L'attention n'est utilisée que dans le décodeur pour réduire la complexité et isoler l'impact de l'interaction.
3. E-DDA (Encoder-Dual-Decoder-Attention) : C'est la contribution majeure pour l'explicabilité. Le décodeur est scindé en deux chemins distincts :
   • BlindLSTM : Traite uniquement la trajectoire du navire cible (aveugle aux autres navires).
   • AttLSTM : Traite uniquement les états cachés pondérés des navires environnants.
   • Les deux sorties sont combinées pour la prédiction finale. Cela permet de séparer explicitement la prédiction "sans interaction" de la prédiction "avec interaction".

3. Contributions Clés

• Adaptation au contexte fluvial : Application et ajustement d'une architecture d'attention spatiale et temporelle aux spécificités des voies navigables intérieures (géométrie, régulations).
• Architecture modulaire pour l'explicabilité (XAI) : La proposition du modèle E-DDA permet de dissocier la composante d'interaction de la composante de trajectoire individuelle. Cela facilite l'analyse de causalité et les analyses contrefactuelles futures.
• Analyse des paramètres de domaine : Utilisation des valeurs du tenseur $S$ appris pour évaluer la plausibilité physique du modèle (le modèle "sait-il" vraiment quand un navire est dangereux ?).

4. Résultats

L'évaluation a été réalisée sur un jeu de données AIS de plus de 3 ans sur le Rhin (km 595-611) avec un horizon de prédiction de 5 minutes.

• Performance de prédiction (Erreur de déplacement finale - FDE) :

  • Le modèle E-DDA obtient la meilleure performance avec une erreur médiane de 25,1 mètres (moyenne 38,4 m).
  • Le modèle E-DA suit de près (médiane 28,8 m).
  • Le modèle EA-DA est légèrement moins performant.
  • Le modèle de référence sans interaction (E-D) est le moins performant, confirmant que l'interaction apporte une valeur ajoutée, mais pas nécessairement de manière "explicable" dans toutes les architectures.

• Analyse de l'explicabilité (Comportement du domaine navire) :

  • E-DA et EA-DA : Les paramètres de domaine appris montrent un comportement contre-intuitif. Pour les navires en sens opposé (situations de collision potentielles), le modèle a tendance à réduire la valeur du domaine navire, rendant ces navires "irrélevants" pour la prédiction, même s'ils sont proches. Cela suggère que la précision de ces modèles ne provient pas d'une compréhension correcte des interactions, mais d'autres biais.
  • E-DDA : Ce modèle apprend des valeurs de domaine navire plus plausibles. Il augmente la valeur du domaine pour les navires en sens opposé qui se rapprochent, ce qui correspond à la logique physique (ces navires doivent être pris en compte).
  • Limitation observée : Le modèle E-DDA attribue paradoxalement une importance plus grande aux navires ayant une grande distance latérale, ce qui est contre-intuitif (les navires proches devraient être plus critiques). Les auteurs suggèrent que cela pourrait être dû à des manœuvres de retour au chenal après un dépassement.

5. Signification et Conclusion

Cette étude démontre que la performance de prédiction (faible erreur) ne garantit pas la justesse du raisonnement interne du modèle.

• Un modèle peut prédire correctement sans comprendre les interactions (comme le montrent E-DA et EA-DA qui obtiennent de bons résultats mais avec des paramètres de domaine non physiques).
• L'architecture E-DDA prouve qu'il est possible de concevoir des modèles où la composante d'interaction est identifiable et où les paramètres appris reflètent mieux la réalité physique, même si des améliorations restent nécessaires.

Perspectives futures :
Les auteurs prévoient d'utiliser cette architecture modulaire pour des analyses contrefactuelles (ex: "Que se passerait-il si ce navire n'existait pas ?") et d'affiner les mécanismes d'attention pour mieux capturer la logique de navigation fluviale.

En résumé, ce travail est une étape importante vers des systèmes de navigation autonome fiables et interprétables, en soulignant la nécessité d'évaluer non seulement la précision des prédictions, mais aussi la logique sous-jacente des modèles d'IA dans les environnements critiques.