Fine-tuning LLMs for Tourist Trajectory Prediction using Field Experiment Data

Stellen Sie sich vor, Sie stehen am Rand eines riesigen, belebten Parks und beobachten, wie hunderte Menschen sich durch Pfade schlängeln, an Gärten innehalten und in Richtung der Schlösser wandern. Für Stadtplaner und Tourismusbehörden ist das Verständnis darüber, warum diese Besucher einen bestimmten Weg wählen, nicht nur eine Frage der Neugier; es ist ein entscheidendes Instrument, um Menschenmengen zu steuern, empfindliche Stätten zu schützen und sicherzustellen, dass Geld an den richtigen Stellen fließt. Wenn eine Destination versucht, einen neuen Elektro-Shuttle oder ein Leihrad-System einzuführen, um Menschen zwischen verstreuten Attraktionen zu bewegen, stehen sie vor der schwierigen Frage: Wird dieser neue Service tatsächlich die Art und Weise verändern, wie Menschen die Umgebung erkunden, oder werden Besucher ihn einfach nur nutzen, um die gleichen überfüllten Orte schneller zu erreichen? Traditionelle Computermodelle haben Schwierigkeiten, diese Frage zu beantworten, da sie die menschliche Bewegung oft als eine einfache Abfolge von Schritten behandeln und dabei die chaotischen, realen Faktoren ignorieren, die unsere Entscheidungen beeinflussen, wie etwa ein plötzlicher Regenschauer, ein müdes Kind oder der einfache Wunsch nach einer ruhigen Bank. Diese älteren Systeme benötigen enorme Mengen an historischen Daten, um Muster zu erlernen, und wenn sie mit einer neuen Situation konfrontiert werden, die sie noch nie zuvor gesehen haben, scheitern sie oft bei der korrekten Vorhersage.

Ein Forscherteam der Universität Osaka und des RIKEN Center for Computational Science hat einen anderen Ansatz gewählt, indem es sich einer Art künstlicher Intelligenz zuwandte, die als Large Language Model bekannt ist. Dies sind dieselben leistungsstarken Computersysteme, die Geschichten schreiben, komplexe Fragen beantworten und Gespräche führen können, trainiert auf riesigen Bibliotheken menschlicher Texte. Die Forscher erkannten, dass diese Modelle bereits über ein tiefes, intuitives Verständnis des menschlichen Verhaltens verfügen. Sie „wissen“, dass Menschen Schutz suchen, wenn es regnet, dass Familien häufige Pausen benötigen und dass die Mittagszeit meist die Suche nach Essen bedeutet. Anstatt ein neues Modell von Grund auf neu zu bauen, entschied sich das Team, diesem bereits existierenden, wissenden System beizubringen, wie es einen spezifischen Ort navigiert. Sie konzentrierten ihre Studie auf den Wakayama Castle Park in Japan, ein weitläufiges Ziel mit einem historischen Burgturm, Gärten, einem Zoo und zahlreichen Ruhebereichen. Während eines Pilotprogramms im Dezember 2023 sammelten die Forscher detaillierte Bewegungsdaten von 566 Touristen und verfolgten dabei, wohin sie gingen, wann sie ankamen und was sie taten, während sie gleichzeitig das Wetter und die Tageszeit notierten.

Um den Computer zu lehren, übersetzten die Forscher diese rohen Bewegungsdaten in ein Format, das das Sprachmodell verstehen konnte: eine einfache, strukturierte Geschichte. Sie beschrieben jeden Besucher als Charakter mit spezifischen Merkmalen, wie Alter oder Gruppentyp, und setzten die Szene mit dem aktuellen Wetter. Dann listeten sie die Reise des Besuchers Schritt für Schritt auf, wobei sie die Zeit, die Handlung und den spezifischen besuchten Ort notierten, ganz so, als würde man einen Tagebucheintrag für einen Tag im Park schreiben. Dann baten sie den Computer, diese Geschichten zu lesen und die Muster zu lernen, wie sich Menschen tatsächlich durch den Park bewegten. Das Ziel war es zu sehen, ob das Modell aus der Historie eines Besuchers bis zu einem bestimmten Zeitpunkt den nächsten Ort, den er besuchen würde, korrekt vorhersagen kann. Dieser Prozess, bekannt als Fine-Tuning, ermöglichte es dem Modell, sein allgemeines Wissen über die menschliche Natur mit dem spezifischen Layout und den Gewohnheiten des Wakayama Castle Park zu kombinieren.

Die Ergebnisse waren beeindruckend. Wenn es mit neuen Besuchern getestet wurde, die das Modell noch nie gesehen hatte, sagte es den nächsten spezifischen Ort, den ein Tourist besuchen würde, etwa 49 Prozent der Zeit korrekt voraus. Dies war eine signifikante Verbesserung gegenüber traditionellen statistischen Methoden, die nur etwa 9 bis 15 Prozent der Zeit richtig geraten hatten. Die älteren Methoden scheiterten oft, weil sie den Kontext nicht berücksichtigen konnten; sie verstanden nicht, dass ein Regentag einen Besucher dazu bringen würde, die offenen Gärten zu überspringen und direkt ein Innenmuseum aufzusuchen. Das Sprachmodell hingegen nutzte seinen eingebauten gesunden Menschenverstand, um diese Anpassungen vorzunehmen. Selbst in schwierigen Situationen, in denen die Datenlage dünn war, wie an Regentagen, an denen nur eine Handvoll Besucher aufgezeichnet wurde, behielt das Modell ein hohes Maß an Genauigkeit bei und sagte korrekt voraus, dass Menschen Schutz im Inneren suchen würden. Es konnte auch ganze eintägige Reiserouten generieren, die realistisch wirkten – beginnend mit morgendlichen Besuchen wichtiger Wahrzeichen, über den Mittag bis hin zum Nachmittagsrast – und das, ohne explizit mit diesen Regeln programmiert worden zu sein.

Die Forscher fanden heraus, dass die Fähigkeit des Modells, das „Warum“ hinter einer Entscheidung zu verstehen, genauso wichtig war wie die Fähigkeit, das „Wohin“ zu erraten. Während es etwas weniger genau darin war, den exakten Namen eines spezifischen Ladens oder Gartens vorherzusagen, war es sehr gut darin, die Art des Ortes vorherzusagen, den ein Besucher wählen würde, wie etwa ein Restaurant oder eine historische Stätte. Dies deutet darauf hin, dass das Modell die allgemeinen Absichten der Touristen gelernt hat. Interessanterweise testete das Team auch eine Version des Modells, die speziell auf die japanische Sprache und Kultur trainiert worden war, aber die allgemeine, mehrsprachige Version schnitt besser ab. Dies deutet darauf hin, dass für das Verständnis der menschlichen Bewegung und der Entscheidungsfindung das breite, vielfältige Wissen über menschliches Verhalten, das in einem allgemeinen Modell zu finden ist, wertvolller ist als spezialisiertes Sprachtraining.

Diese Arbeit erhebt nicht den Anspruch, das Problem der Vorhersage menschlichen Verhaltens perfekt gelöst zu haben, noch beweist sie, dass diese Modelle exakt vorhersagen können, wie eine neue Richtlinie die Zukunft verändern wird. Die Forscher weisen vorsichtig darauf hin, dass ihr Modell ein leistungsfähiges Werkzeug ist, um vorherzusagen, was Menschen unter den aktuellen Bedingungen tun werden, aber die Verwendung des Modells zur Simulation der Auswirkungen einer neuen Intervention, wie etwa eines neuen Shuttle-Busses, erfordert weitere Tests. Dennoch zeigt die Studie, dass diese Large Language Models als hochgenaue Spiegel des menschlichen Verhaltens dienen können, fähig, die subtilen, kontextabhängigen Entscheidungen zu verstehen, die einen Tag im Park definieren. Indem sie die Logik erfassen, warum ein müder Elternteil eine Bank einem langen Spaziergang vorzieht oder warum eine Gruppe einen Hügel an einem heißen Tag meidet, bietet diese Technologie den Destinationsmanagern eine neue Möglichkeit, die Zukunft zu planen – weg von einfachen Statistiken hin zu einem tieferen Verständnis der Menschen, die ihre Ländereien besuchen.