Large Language Models for Travel Behavior Prediction

Cette étude démontre que les grands modèles de langage (LLM) constituent une alternative flexible et économe en données pour la prédiction du comportement des voyageurs, grâce à des stratégies de promptage zéro-shot et à l'utilisation d'embeddings textuels qui rivalisent avec les modèles classiques.

L'essentiel

Imaginez que vous essayez de prédire comment les gens vont voyager : prendront-ils le train, la voiture ou le métro ? Iront-ils travailler, faire du shopping ou voir des amis ?

Traditionnellement, les experts en transport utilisaient des formules mathématiques sèches, un peu comme un chef cuisinier qui suit une recette rigide. Il faut beaucoup d'ingrédients (des milliers de données réelles) pour que la recette fonctionne bien. Si vous n'avez que quelques ingrédients, le plat est raté.

Cet article explore une nouvelle approche : utiliser les Grands Modèles de Langage (LLM), ces intelligences artificielles qui discutent comme des humains (comme ChatGPT), pour prédire ces comportements. Les auteurs proposent deux façons de faire, que l'on peut comparer à deux méthodes différentes pour deviner le futur.

1. La méthode du "Devin Intuitif" (Zero-Shot Prompting)

Imaginez que vous avez un sage très cultivé qui a lu tous les livres du monde sur la psychologie humaine, l'économie et la géographie, mais qui n'a jamais vu vos données spécifiques.

• Comment ça marche ? Vous lui donnez une description détaillée d'une situation (ex: "Voici un homme qui a 30 ans, il a une voiture, le train coûte 50€ et prend 2 heures, la voiture coûte 30€ et prend 1h30...").
• Le tour de magie : Vous lui demandez simplement : "Que ferait-il ?" sans lui avoir appris à faire ce calcul spécifique au préalable.
• Le résultat : L'IA utilise sa "culture générale" pour raisonner. Elle dit : "Ah, il économise du temps avec la voiture, donc il va probablement la prendre."
• L'avantage : Cela fonctionne même si vous n'avez aucune donnée historique à lui donner. C'est comme demander à un expert de faire une estimation sur un nouveau pays qu'il ne connaît pas, juste en se basant sur la logique humaine.

2. La méthode du "Traducteur de Signaux" (Embeddings)

Imaginez maintenant que vous avez un traducteur secret qui transforme des histoires complexes en un code mathématique compact.

• Comment ça marche ? Au lieu de demander à l'IA de donner la réponse directement, on lui demande de "résumer" la situation en un code invisible (un vecteur d'embeddings). Ce code capture l'essence de la situation (l'ambiance, les préférences, les contraintes) mieux que des chiffres bruts.
• Le tour de magie : On prend ce code et on le donne à un petit modèle mathématique classique (un élève brillant mais qui a besoin d'un peu d'aide).
• Le résultat : Même avec très peu de données d'entraînement, ce petit modèle devient très performant parce qu'il reçoit les informations "pré-digérées" et enrichies par l'IA.
• L'avantage : C'est comme donner à un élève un résumé ultra-complet d'un livre avant l'examen, au lieu de lui donner juste le titre. Il réussit mieux, même avec peu de temps d'étude.

Ce que les chercheurs ont découvert

Les auteurs ont testé ces idées sur deux cas réels : le choix entre le train, la voiture et un futur métro (Swissmetro), et la prédiction de l'objectif d'un trajet (travail, loisirs, etc.).

• Quand on a beaucoup de données : Les méthodes classiques (les recettes de cuisine traditionnelles) gagnent encore, mais de justesse.
• Quand on a peu de données : C'est là que les IA brillent ! Les méthodes classiques s'effondrent (comme un château de cartes), tandis que les IA, grâce à leur "culture générale", continuent de faire de bonnes prédictions.
• L'explication : Contrairement aux mathématiques classiques qui donnent juste un résultat ("Train"), l'IA peut vous dire pourquoi ("Il prend le train car il n'a pas de pass annuel et le temps gagné est crucial"). C'est comme si le sage vous expliquait sa logique.

Les petits défauts (Les hallucinations)

Comme tout humain, l'IA peut parfois rêver. Parfois, elle invente des faits qui ne sont pas dans la question (ex: "Il prend le train car il aime le bleu", alors que rien n'a été dit sur la couleur). Les chercheurs ont vu que si on guide bien l'IA avec des instructions claires (comme lui donner une liste de règles à suivre), elle se trompe moins. Les modèles les plus avancés (comme GPT-4) sont très robustes et résistent bien aux instructions floues.

En résumé

Cette étude nous dit que l'IA n'est pas seulement un outil pour discuter, mais qu'elle peut devenir un nouvel outil de prédiction pour les transports. Elle est particulièrement précieuse quand on manque de données, là où les méthodes traditionnelles échouent. C'est comme passer d'un calculateur scientifique rigide à un consultant humain très intelligent qui sait raisonner avec ce qu'il sait déjà.

Résumé technique

Voici un résumé technique détaillé de l'article « Large Language Models for Travel Behavior Prediction » (Modèles de langage de grande taille pour la prédiction du comportement de déplacement), rédigé en français.

1. Problématique et Contexte

La prédiction du comportement de déplacement (choix du mode de transport, but du voyage, etc.) est un pilier de la gestion de la demande en transport. Traditionnellement, ce problème est résolu par des modèles numériques (comme le modèle logit multinomial, les forêts aléatoires ou les réseaux de neurones) qui nécessitent de grandes quantités de données étiquetées pour être calibrés.

Cependant, ces modèles peinent souvent dans des scénarios à petits échantillons (peu de données disponibles) et manquent de flexibilité pour intégrer des connaissances contextuelles complexes sans réentraînement. Avec l'avènement des Modèles de Langage de Grande Taille (LLM) comme GPT-4 ou Llama, qui possèdent une capacité de raisonnement et de compréhension sémantique avancée, la question se pose : les LLM peuvent-ils prédire le comportement de déplacement sans données d'entraînement spécifiques, ou en utilisant des embeddings générés par le langage ?

2. Méthodologie

L'étude propose deux cadres de prédiction distincts basés sur les LLM, appliqués à deux tâches : le choix du mode de transport et la prédiction du but du voyage.

A. Approche Zero-Shot (Prompting Direct)

Dans ce cadre, le LLM est utilisé directement pour générer une prédiction sans aucune étape d'entraînement supervisé.

• Conception du Prompt (Prompt Engineering) : Les auteurs conçoivent des prompts complexes intégrant quatre éléments clés :
  1. Description de la tâche : Définition claire du problème (ex: choisir entre Train, Voiture, Swissmetro).
  2. Données structurelles : Présentation des attributs du voyage (temps, coût) sous forme de dictionnaires structurés.
  3. Données descriptives : Attributs individuels du voyageur (ex: « utilisateur régulier du train », « possède un pass annuel ») décrits en langage naturel plutôt qu'en variables binaires.
  4. Guide de raisonnement avec connaissances du domaine : Utilisation de techniques comme le Chain-of-Thought (chaîne de pensée). Le prompt fournit des heuristiques de décision (ex: « les gens privilégient le gain de temps ») et effectue des comparaisons numériques explicites pour aider le modèle à raisonner sur les coûts et les temps.
• Sortie : Le modèle génère la prédiction et une justification textuelle.

B. Approche par Embeddings (Représentations Latentes)

Dans ce cadre hybride, les LLM ne font pas la prédiction finale, mais servent à extraire des caractéristiques (features).

• Extraction d'Embeddings : Le LLM transforme la description textuelle du scénario de voyage (attributs + contexte) en un vecteur d'embedding de haute dimension ($h_n$).
• Apprentissage Supervisé : Ces vecteurs sont utilisés comme entrées pour des modèles d'apprentissage supervisé classiques (Logit Multinomial, Forêt Aléatoire, Réseaux de Neurones).
• Objectif : Vérifier si les embeddings capturés par le LLM contiennent une sémantique riche qui améliore la performance des modèles classiques, particulièrement dans des régimes à petits échantillons.

3. Études de Cas et Données

Les méthodes ont été évaluées sur deux jeux de données réels :

1. Swissmetro (Choix de mode) : Enquête de préférences déclarées comparant le train, la voiture et un système maglev hypothétique (Swissmetro). Données de 1 004 individus (9 036 réponses).
2. NHTS (But du voyage) : Enquête nationale américaine sur les déplacements (2017). Prédiction de 4 buts : travail, social, loisirs, autres.

Protocole expérimental :

• Comparaison avec des modèles de référence (MNL, Random Forest, Réseaux de Neurones) entraînés sur de grands ensembles (1000 échantillons) et de petits ensembles (10 échantillons).
• Utilisation de plusieurs LLM : GPT-3.5, GPT-4, Llama 3.1 (8B et 70B).
• Métriques : Précision et Score F1 pondéré.

4. Résultats Clés

Performance Prédictive

• Données Abondantes : Les modèles supervisés classiques entraînés sur de grands jeux de données restent les plus performants.
• Données Limitées (Petits Échantillons) : La performance des modèles classiques chute drastiquement. En revanche, les LLM en mode Zero-Shot surpassent les modèles supervisés entraînés sur de très petits échantillons (ex: 10 échantillons).
  • Exemple : Pour le choix de mode, GPT-3.5 en Zero-Shot atteint ~58,6 % de précision, contre ~46,9 % pour un MNL entraîné sur 10 échantillons.
• Amélioration par Embeddings : L'utilisation des embeddings LLM comme entrées pour des modèles supervisés améliore significativement la performance dans les régimes à petits échantillons par rapport à l'utilisation de caractéristiques manuelles.

Interprétabilité et Raisonnement

• Avantage Unique : Les LLM fournissent des explications textuelles naturelles. L'analyse qualitative montre que même lorsque la prédiction est erronée, le raisonnement peut être logique et cohérent avec la théorie du comportement de déplacement.
• Limites (Hallucinations) : Le papier note des cas d'erreurs de raisonnement et d'hallucinations (ex: affirmer une préférence pour le temps sans que cela soit justifié par les données d'entrée), soulignant la nécessité de prudence dans les applications critiques.

Études d'Ablation (Impact du Prompt)

• GPT-3.5 : Très sensible à la conception du prompt. L'élimination du « guide de raisonnement » (comparaisons numériques explicites) fait chuter la précision de 5,8 %. La structure des données est également cruciale.
• GPT-4 : Très robuste. Les variations de prompt (suppression de connaissances du domaine ou changement de format) ont un impact négligeable (< 1 %), indiquant une capacité interne de raisonnement et d'intégration d'informations supérieure.

5. Contributions et Signification

Contributions Principales :

1. Nouveaux Cadres de Prédiction : Introduction de deux approches (Zero-Shot et Embeddings) pour appliquer les LLM à la modélisation des transports.
2. Efficacité des Données : Démonstration que les LLM peuvent offrir des performances compétitives, voire supérieures, aux modèles traditionnels lorsque les données étiquetées sont rares, réduisant ainsi le besoin de collecte massive de données.
3. Interprétabilité : Mise en avant de la capacité des LLM à justifier leurs prédictions en langage naturel, offrant une transparence que les modèles « boîte noire » classiques n'ont pas.
4. Analyse de Robustesse : Comparaison détaillée de la sensibilité aux prompts entre les modèles de différentes générations (GPT-3.5 vs GPT-4).

Signification pour le Domaine :
Cette étude suggère que les LLM ne sont pas seulement des outils de génération de texte, mais des moteurs de raisonnement potentiels pour la planification des transports. Ils offrent une alternative flexible et économe en données pour la modélisation du comportement humain, capable d'intégrer des connaissances du domaine et des contextes complexes sans réentraînement coûteux. Cependant, les auteurs soulignent la nécessité de futures recherches pour réduire les hallucinations et standardiser les stratégies de prompting pour une adoption plus large.