Fine-tuning LLMs for Tourist Trajectory Prediction using Field Experiment Data

Imagine estar à beira de um vasto e movimentado parque, observando centenas de pessoas serpentearem por caminhos, fazerem pausas em jardins e caminharem em direção a castelos. Para planejadores urbanos e autoridades de turismo, entender por que esses visitantes escolhem um caminho em vez de outro não é apenas uma questão de curiosidade; é uma ferramenta crítica para gerir multidões, proteger locais frágeis e garantir que o dinheiro flua para os lugares certos. Quando um destino tenta introduzir um novo transporte elétrico ou um sistema de compartilhamento de bicicletas para ajudar as pessoas a se deslocarem entre atrações dispersas, eles enfrentam uma questão difícil: este novo serviço realmente mudará a forma como as pessoas exploram, ou os visitantes simplesmente o usarão para chegar aos mesmos pontos lotados mais rapidamente? Os modelos computacionais tradicionais lutam para responder a isso porque frequentemente tratam o movimento humano como uma série simples de passos, ignorando os fatores reais e desordenados que influenciam nossas escolhas, como uma chuva repentina, uma criança cansada ou o simples desejo de encontrar um banco tranquilo. Esses sistemas mais antigos exigem quantidades massivas de dados históricos para aprender padrões e, quando confrontados com uma nova situação que nunca viram antes, muitas vezes falham em adivinhar corretamente.

Uma equipe de pesquisadores da Universidade de Osaka e do Centro RIKEN para Ciência Computacional adotou uma abordagem diferente ao recorrer a um tipo de inteligência artificial conhecido como modelo de linguagem de grande escala. Estes são os mesmos sistemas computacionais poderosos que podem escrever histórias, responder a perguntas complexas e manter conversas, treinados em vastas bibliotecas de textos humanos. Os pesquisadores perceberam que esses modelos já possuem uma compreensão profunda e intuitiva do comportamento humano. Eles "sabem" que as pessoas procuram abrigo quando chove, que famílias precisam de intervalos frequentes e que a hora do almoço geralmente significa uma busca por comida. Em vez de construir um novo modelo do zero, a equipe decidiu ensinar este sistema existente e conhecedor a navegar em um local específico. Eles focaram seu estudo no Parque do Castelo de Wakayama, no Japão, um destino extenso com uma torre de castelo histórica, jardins, um zoológico e inúmeras áreas de descanso. Durante um programa piloto em dezembro de 2023, os pesquisadores coletaram registros detalhados de movimento de 566 turistas, rastreando para onde foram, quando chegaram e o que fizeram, enquanto também anotavam o clima e a hora do dia.

Para ensinar o computador, os pesquisadores traduziram esses registros de movimento brutos em um formato que o modelo de linguagem pudesse entender: uma história simples e estruturada. Eles descreveram cada visitante como um personagem com traços específicos, como idade ou tipo de grupo, e prepararam o cenário com o clima atual. Em seguida, listaram a jornada do visitante passo a passo, anotando o tempo, a ação e o lugar específico visitado, tal como escrever um diário de um dia no parque. Eles então pediram ao computador para ler essas histórias e aprender os padrões de como as pessoas realmente se moveram pelo parque. O objetivo era ver se o modelo poderia observar o histórico de um visitante até um certo ponto e prever com precisão para onde ele iria a seguir. Este processo, conhecido como ajuste fino (fine-tuning), permitiu que o modelo combinasse seu conhecimento geral de natureza humana com o layout e os hábitos específicos do Parque do Castelo de Wakayama.

Os resultados foram impressionantes. Quando testado com novos visitantes que o modelo nunca tinha visto antes, ele previu corretamente o próximo local específico que um turista visitaria cerca de 49 por cento das vezes. Este foi um avanço significativo em relação aos métodos estatísticos tradicionais, que conseguiam adivinhar corretamente apenas cerca de 9 a 15 por cento das vezes. Os métodos mais antigos frequentemente falhavam porque não conseguiam considerar o contexto; eles não entendiam que um dia chuvoso faria um visitante pular os jardins abertos e ir direto para o museu coberto. O modelo de linguagem, no entanto, usou seu senso comum intrínseco para fazer esses ajustes. Mesmo em situações difíceis onde os dados eram escassos, como em dias chuvosos quando apenas um pequeno número de visitantes foi registrado, o modelo manteve um alto nível de precisão, prevendo corretamente que as pessoas buscariam abrigo em locais cobertos. Ele também gerou com sucesso itinerários de dias inteiros que pareciam realistas, começando com visitas matinais aos principais marcos, passando pelo almoço e terminando com o descanso da tarde, tudo sem ser explicitamente programado com essas regras.

Os pesquisadores descobriram que a capacidade do modelo de entender o "porquê" por trás de uma decisão era tão importante quanto sua capacidade de adivinhar o "onde". Embora fosse ligeiramente menos preciso ao prever o nome exato de uma loja ou jardim específico, foi muito bom em prever o tipo de lugar que um visitante escolheria, como um restaurante ou um sítio histórico. Isso sugere que o modelo aprendeu as intenções gerais dos turistas. Curiosamente, a equipe também testou uma versão do modelo que havia sido especificamente treinada na língua e cultura japonesas, mas a versão multilíngue geral teve um desempenho melhor. Isso indica que, para entender como as pessoas se movem e tomam decisões, o conhecimento amplo e diverso do comportamento humano encontrado em um modelo geral é mais valioso do que o treinamento linguístico especializado.

Este trabalho não afirma ter resolvido perfeitamente o problema de prever o comportamento humano, nem prova que esses modelos podem prever exatamente como uma nova política mudará o futuro. Os pesquisadores ressaltam cuidadosamente que seu modelo é uma ferramenta poderosa para prever o que as pessoas farão sob as condições atuais, mas usar o modelo para simular os efeitos de uma nova intervenção, como um novo ônibus de transporte, requer mais testes. No entanto, o estudo demonstra que esses modelos de linguagem de grande escala podem servir como espelhos altamente precisos do comportamento humano, capazes de compreender as decisões sutis e dependentes de contexto que definem um dia no parque. Ao capturar a lógica de por que um pai cansado escolhe um banco em vez de uma longa caminhada, ou por que um grupo evita uma colina em um dia quente, esta tecnologia oferece uma nova maneira para os gestores de destinos planejarem o futuro, indo além das simples estatísticas para uma compreensão mais profunda das pessoas que visitam suas terras.