Large Language Models for Travel Behavior Prediction

Diese Studie zeigt, dass Large Language Models durch Zero-Shot-Prompting und die Generierung von Text-Embeddings für konventionelle Modelle eine flexible und dateneffiziente Alternative zu klassischen numerischen Ansätzen für die Vorhersage von Reiseverhalten darstellen.

Das Wesentliche

Reisepläne mit dem Gehirn eines Roboters: Wie KI unser Reiseverhalten vorhersagt

Stellen Sie sich vor, Sie stehen an einer großen Kreuzung. Vor Ihnen liegen drei Wege: ein Zug, ein Auto und eine futuristische U-Bahn. Sie müssen entscheiden, welchen Weg Sie nehmen. Normalerweise versuchen Verkehrsexperten, diese Entscheidung mit strengen mathematischen Formeln zu berechnen – wie ein Koch, der ein Rezept genau abwiegt. Aber was, wenn wir stattdessen einen sehr klugen, gut ausgebildeten Roboter fragen könnten, der Millionen von Büchern gelesen hat und die menschliche Psyche versteht?

Genau das untersucht diese Studie. Die Forscher haben sich gefragt: Können moderne „Large Language Models" (LLMs) – also riesige KI-Modelle wie ChatGPT – vorhersagen, wie Menschen reisen?

Hier ist die einfache Erklärung der beiden Methoden, die sie getestet haben, mit ein paar lustigen Vergleichen:

1. Methode A: Der „Zero-Shot"-Detektiv (Der Alleskönner ohne Schulbuch)

Stellen Sie sich einen genialen Detektiv vor, der noch nie einen Fall in Ihrer Stadt gelöst hat. Sie geben ihm einfach eine Akte mit den Fakten: „Die Person ist kein regelmäßiger Zugfahrer, der Zug dauert 2 Stunden, das Auto 1,5 Stunden, aber der Zug ist billiger."

Der Detektiv muss nicht erst lernen, wie man solche Fälle löst. Er nutzt sein riesiges Allgemeinwissen (seine „Pre-Training"-Daten) und seine menschliche Intuition, um sofort eine Antwort zu geben.

• Das Ergebnis: Dieser KI-Detektiv war überraschend gut! Er konnte fast so gut raten wie die klassischen Mathematiker, obwohl er nie speziell für diese Aufgabe trainiert wurde. Er versteht den Kontext: „Ah, Zeit ist wichtig, also nehme ich den schnelleren Weg, auch wenn er etwas mehr kostet."

2. Methode B: Der Übersetzer für den Mathematiker (Der Brückenbauer)

Stellen Sie sich vor, Sie haben einen sehr klugen Übersetzer (die KI), aber keinen Dolmetscher für die spezifische Sprache der Mathematik.
In diesem Fall nutzt die KI die Reiseinformationen nicht, um direkt die Antwort zu sagen. Stattdessen wandelt sie die Beschreibung der Reise in einen geheimen Code (einen „Embedding") um. Dieser Code fasst die Essenz der Situation zusammen – wie eine emotionale Stimmung oder einen komplexen Gedanken, den man nicht in Zahlen ausdrücken kann.

Dann geben sie diesen Code einem klassischen Computer-Modell (einem „Lernenden"), das nur mit sehr wenigen Beispielen (wenigen Daten) trainiert wurde.

• Das Ergebnis: Das ist wie wenn Sie einem Schüler, der nur 10 Matheaufgaben gelöst hat, eine fertige, perfekte Zusammenfassung der wichtigsten Regeln geben. Plötzlich kann er viel besser rechnen als ohne diese Hilfe. Die KI half dem kleinen Modell, die „feinen Nuancen" zu verstehen, die normale Zahlenmodelle oft übersehen.

Was haben sie herausgefunden?

1. Bei vielen Daten: Wenn man riesige Mengen an Daten hat, sind die alten, klassischen Modelle (die Mathematiker) immer noch die Könige. Sie sind präzise und zuverlässig.
2. Bei wenigen Daten: Das ist der große Gewinner der Studie! Wenn man nur sehr wenige Daten hat (was in der echten Welt oft der Fall ist), schlagen die KI-Modelle die alten Methoden. Die KI kann mit ihrem allgemeinen Wissen Lücken füllen, wo die Mathematik versagt, weil ihr die Beispiele fehlen.
3. Erklärungen statt nur Zahlen: Ein großer Vorteil der KI ist, dass sie nicht nur sagt: „Auto". Sie sagt: „Ich nehme das Auto, weil es billiger ist und die Zeitersparnis des Zuges den höheren Preis nicht rechtfertigt." Das ist wie ein Gespräch mit einem Freund, statt nur eine Zahl auf einem Zettel zu sehen.

Aber Vorsicht: Der KI wird manchmal zu viel eingebildet!

Wie bei jedem sehr klugen Menschen, der viel liest, gibt es auch Schwächen:

• Halluzinationen: Manchmal erfindet die KI Fakten. Sie könnte behaupten: „Die Person mag Zeitersparnis," obwohl in den Daten nichts darüber stand. Das ist wie ein Schüler, der eine plausible Geschichte erfindet, weil er die Antwort nicht weiß.
• Rechenfehler: Bei einfachen Matheaufgaben (z. B. „Was ist 10 minus 3?") kann die KI manchmal stolpern, wenn sie nicht genau angeleitet wird.

Fazit für den Alltag

Diese Studie zeigt uns, dass wir in der Zukunft nicht nur auf trockene Statistiken angewiesen sind, um den Verkehr zu planen. Wir können KI-Modelle nutzen, die wie intuitive Berater funktionieren. Sie sind besonders dann super, wenn wir wenig Daten haben oder wenn wir verstehen wollen, warum jemand eine bestimmte Entscheidung trifft.

Es ist, als hätten wir einen neuen, sehr klugen Verkehrsexperten an Bord, der zwar manchmal übermütig ist und Dinge erfindet, aber oft genau das richtige Gefühl für die menschliche Entscheidung hat – besonders dann, wenn die alten Bücher keine Antworten mehr haben.

Technische Zusammenfassung

Hier ist eine detaillierte technische Zusammenfassung des Papers „Large Language Models for Travel Behavior Prediction" auf Deutsch:

1. Problemstellung

Die Vorhersage von Reiseverhalten (z. B. Wahl des Verkehrsmittels oder des Reisezwecks) ist ein Kernproblem im Verkehrsmanagement und der Verkehrsplanung. Traditionell werden hierfür numerische Modelle verwendet, die auf beobachteten Daten kalibriert werden (z. B. diskrete Wahlmodelle wie das Multinomial Logit, Random Forests oder neuronale Netze). Diese Modelle haben jedoch zwei wesentliche Nachteile:

1. Datenabhängigkeit: Sie benötigen große Mengen an gelabelten Trainingsdaten, um gut zu generalisieren.
2. Fehlende Semantik: Sie basieren oft auf strukturierten numerischen Daten und nutzen das natürliche Sprachverständnis oder domänenspezifisches Weltwissen nur begrenzt.

Die Frage, ob Large Language Models (LLMs), die auf riesigen Textkorpora trainiert wurden, in der Lage sind, menschliche Entscheidungsprozesse im Reisekontext zu modellieren und Vorhersagen zu treffen, war bisher unklar.

2. Methodik

Die Studie entwickelt und evaluiert zwei komplementäre Frameworks, die LLMs zur Vorhersage von Reiseverhalten nutzen:

A. Zero-Shot Prompting (Direkte Vorhersage)

In diesem Ansatz wird das LLM ohne spezifisches Training für die Aufgabe eingesetzt.

• Prompt-Design: Die Autoren entwerfen komplexe Prompts, die vier Komponenten enthalten:
  1. Aufgabenbeschreibung: Definition der Vorhersage (z. B. Verkehrsmittelwahl).
  2. Strukturierte Daten: Reisedaten (Zeit, Kosten) im Wörterbuch-Format.
  3. Deskriptive Daten: Soziodemografische Merkmale des Reisenden in natürlicher Sprache.
  4. Domänenwissen & Denkleitfaden: Explizite Anweisungen, wie das Modell logisch schlussfolgern soll (z. B. „Nutzer mit Jahreskarten bevorzugen den Zug", „Zeitersparnis wiegt schwerer als Kosten"). Dies beinhaltet auch numerische Vergleiche, um Rechenfehler des LLMs zu minimieren.
• Ausgabe: Das Modell generiert direkt die Vorhersage und eine Begründung in natürlicher Sprache (oft im JSON-Format).

B. Embeddings als Merkmale (Hybrid-Ansatz)

Dieser Ansatz nutzt LLMs als Feature-Extraktoren für kleine Datensätze.

• Vorgehen: Anstatt den Text direkt zu generieren, werden die internen Embeddings (Vektordarstellungen) der Eingabe-Prompts aus dem LLM extrahiert.
• Supervised Learning: Diese hochdimensionalen Vektoren, die semantische Informationen über das Reiseszenario kodieren, dienen als Eingabe für klassische überwachte Lernmodelle (z. B. Multinomial Logit, Random Forest, Neuronale Netze).
• Ziel: Verbesserung der Vorhersageleistung in Szenarien mit sehr wenigen Trainingsdaten (Small-Sample Settings).

3. Experimentelles Setup

Die Studie wurde an zwei Datensätzen evaluiert:

1. Swissmetro-Studie: Vorhersage der Verkehrsmittelwahl (Zug, Auto, Swissmetro) basierend auf Zeit, Kosten und Nutzerprofilen (1.004 Personen, 9.036 Antworten).
2. NHTS (US National Household Travel Survey): Vorhersage des Reisezwecks (Arbeit, Soziales, Freizeit, Sonstiges) basierend auf soziodemografischen Daten und Reisetypen.

Benchmarks: Die LLM-Ansätze wurden mit klassischen Modellen verglichen: Multinomial Logit (MNL), Random Forest (RF) und Neuronale Netze (NN).
LLMs: Getestet wurden GPT-3.5, GPT-4 sowie Llama 3.1 (8B und 70B Parameter).

4. Wichtige Ergebnisse

Vorhersageleistung

• Große Datensätze: Klassische überwachte Modelle (MNL, RF, NN) erreichen bei großen Trainingsmengen (n=1000) die beste Gesamtleistung.
• Kleine Datensätze (n=10): Die Leistung der klassischen Modelle bricht bei wenigen Trainingsdaten stark ein.
• Zero-Shot LLMs: LLMs ohne jegliches Training (Zero-Shot) erreichen eine Leistung, die mit den klassischen Modellen bei großen Datensätzen vergleichbar ist und deutlich besser ist als klassische Modelle, die nur mit sehr wenigen Daten (n=10) trainiert wurden.
• Embedding-Hybrid: Die Kombination von LLM-Embeddings mit klassischen Modellen verbessert die Leistung in kleinen Datensätzen signifikant im Vergleich zur Verwendung von manuell erstellten Features.

Interpretierbarkeit

Ein großer Vorteil der LLMs ist die Fähigkeit, natürliche Sprachbegründungen zu liefern.

• In vielen Fällen sind die Erklärungen logisch und konsistent mit der Verkehrstheorie (z. B. Abwägung zwischen Zeit und Kosten).
• Limitationen: Es wurden auch Fälle von „Halluzinationen" (falsche Fakten) und inkonsistentem Schlussfolgern beobachtet, insbesondere wenn das LLM keine expliziten numerischen Vergleichshilfen im Prompt erhielt.

Ablationsstudie (Prompt-Optimierung)

Die Studie zeigt, dass das Prompt-Design entscheidend ist:

• GPT-3.5: Ist stark abhängig von expliziten „Denk-Leitfäden" (Guide of thinking) und strukturierten Daten. Das Entfernen dieser Elemente führt zu signifikanten Leistungseinbußen (-5,8% Genauigkeit).
• GPT-4: Zeigt eine hohe Robustheit gegenüber Änderungen im Prompt-Design. Die Leistung bleibt stabil, was auf fortschrittlichere interne Schlussfolgerungsfähigkeiten hindeutet.

5. Bedeutung und Beitrag

Die Studie liefert folgende wesentliche Beiträge:

1. Neue Paradigmen: Sie demonstriert, dass LLMs eine flexible und dateneffiziente Alternative zu traditionellen Verkehrsmodellen darstellen, insbesondere in Szenarien mit Datenknappheit.
2. Hybride Ansätze: Sie zeigt, dass LLM-Embeddings als hochwertige semantische Features dienen können, um die Generalisierungsfähigkeit klassischer Modelle in kleinen Datensätzen zu verbessern.
3. Erklärbarkeit: LLMs bieten einen neuen Weg zur Interpretation von Vorhersagen durch natürliche Sprache, was die Akzeptanz bei Planern und Politikern erhöhen könnte.
4. Praktische Anwendung: Die Ergebnisse legen nahe, dass LLMs nicht nur als „Blackbox", sondern durch sorgfältiges Prompt-Engineering (insbesondere bei weniger leistungsfähigen Modellen) als zuverlässige Werkzeuge im Verkehrsmanagement eingesetzt werden können.

Fazit: Während traditionelle Modelle bei großen Datenmengen nach wie vor überlegen sind, füllen LLMs die Lücke in datenarmen Umgebungen und bieten gleichzeitig neue Möglichkeiten für die Interpretation von Reiseentscheidungen. Die Studie empfiehlt jedoch weiterhin Vorsicht bei der Nutzung von LLM-Erklärungen in sicherheitskritischen Anwendungen aufgrund potenzieller Halluzinationen.