Fine-tuning LLMs for Tourist Trajectory Prediction using Field Experiment Data
本文表明，通过在和歌山城址公园的实地实验数据上对大语言模型进行微调，能够实现对游客轨迹准确且具备上下文感知能力的预测，包括在雨天等样本不足的情景下，从而为通过反事实分析评估移动性干预措施奠定了坚实的基石。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一下，你站在一个广阔而繁忙的公园边缘，注视着数百人穿梭在小径间，在花园前驻足，或向城堡漫步而去。对于城市规划者和旅游官员来说，理解游客为何选择某条路径不仅仅是出于好奇，更是一个管理人群、保护脆弱遗址并确保资金流向正确之处的关键工具。当一个目的地试图引入一种新的电动接驳车或共享单车系统，以帮助人们在分散的景点之间移动时，他们面临着一个难题：这项新服务究竟会改变人们探索的方式，还是游客仅仅会利用它更快地到达那些原本就拥挤的热点地区？传统的计算机模型难以回答这个问题，因为它们通常将人类运动视为一系列简单的步骤，忽略了影响我们选择的那些混乱且真实的现实因素，例如突如其来的阵雨、疲惫的孩子，或是寻找一张安静长椅的简单愿望。这些旧系统需要海量的历史数据来学习模式，而一旦面对从未见过的全新情况，它们往往无法做出正确的预测。
来自大阪大学和理化学研究所（RIKEN）计算科学研究中心的科研团队采取了一种不同的方法，他们转向了一种被称为“大语言模型”的人工智能。这些模型是能够撰写故事、回答复杂问题并进行对话的强大计算机系统，是在庞大的各类人类文本库上训练而成的。研究人员意识到，这些模型已经具备了对人类行为的一种深刻且直觉性的理解。它们“知道”人们在下雨时会寻求遮蔽，知道家庭需要频繁休息，也知道午餐时间通常意味着寻找食物。研究团队并没有从头开始构建一个新模型，而是决定教导这个现有的、具有知识储备的系统如何在一个特定地点进行导航。他们将研究重点放在了日本的和歌山城址公园，这是一个拥有历史悠久的城堡天守阁、花园、动物园以及众多休憩区域的广阔目的地。在2023年12月的一次试点计划中，研究人员收集了566名游客详细的移动记录，追踪了他们的去向、到达时间以及所做的活动，同时也记录了天气和时间。
为了教导计算机，研究人员将这些原始的移动记录转化为该语言模型能够理解的一种格式：一个简单的、结构化的故事。他们将每位游客描述为一个具有特定特征（如年龄或群体类型）的角色，并设定了当前的天气场景。接着，他们像编写公园一日游日记一样，逐步列出游客的旅程，记录时间、动作以及访问的具体地点。随后，他们要求计算机阅读这些故事，并学习人们在公园中实际移动的模式。这一过程被称为“微调”，它让模型能够将其通用的知识与和歌山城址公园特定的布局和习惯相结合。目标是观察模型是否能够通过观察游客在某一时间点之前的历史轨迹，准确预测其下一步的去向。
结果令人瞩目。在测试从未见过的全新游客时，模型能准确预测游客下一个具体访问地点的概率约为49%。这比传统的统计方法有了显著提升，后者的正确预测率仅为9%到15%左右。旧方法之所以经常失败，是因为它们无法考虑上下文环境；它们不理解阴雨天会让游客跳过开放式花园，直接前往室内博物馆。然而，语言模型利用其内置的常识进行了这种调整。即使在数据匮乏的困难情况下——例如在仅记录了极少数游客的雨天——该模型依然保持了很高的准确度，准确预测了人们会寻求室内遮蔽。它还能成功生成完整的全天行程，这些行程感觉非常真实：从早晨参观主要地标开始，转向午餐，最后以下午的休息结束，而这一切都不需要显式的程序规则。
研究人员发现，模型理解决策背后“为什么”的能力，与它猜测“去哪里”的能力同样重要。虽然它在预测特定商店或花园的具体名称方面稍逊一筹，但在预测游客会选择哪种类型的场所（如餐厅或历史遗迹）方面表现得非常出色。这表明该模型已经学习到了游客的一般意图。有趣的是，团队还测试了一个专门针对日语和日本文化进行过训练的版本，但通用的多语言版本表现得更好。这表明，对于理解人类如何移动和做出选择而言，通用模型中所蕴含的广泛且多样的人类行为知识，比专门的语言训练更具价值。
这项工作并不声称已经完美解决了预测人类行为的问题，也不证明这些模型可以精确预测新政策将如何改变未来。研究人员谨慎地指出，他们的模型是一个强大的工具，用于预测当前条件下的行为预测，但要模拟新干预措施（如新的班车系统）对未来的影响，还需要进一步的测试。然而，这项研究证明了大语言模型可以作为人类行为的高度准确的镜像，能够理解定义了公园一日游的那些微妙且依赖于情境的决策。通过捕捉一位疲惫的家长为何选择长椅而非长距离行走，或者一群游客为何在炎热天气下避开山坡背后的逻辑，这项技术为目的地管理者提供了一种超越简单统计学、走向更深层次理解人类行为的新途径，从而为未来进行规划。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。