Fine-tuning LLMs for Tourist Trajectory Prediction using Field Experiment Data
이 논문은 와카야마 성 공원의 현장 실험 데이터를 바탕으로 거대언어모델을 미세 조정하는 것이 비 오는 날과 같은 데이터가 부족한 시나리오에서도 맥락을 고려한 정확한 관광객 궤적 예측을 가능하게 함을 입증하며, 이를 통해 반사실적 분석을 통한 모빌리티 개입 평가를 위한 견고한 토대를 구축한다.
원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기
광활하고 북적이는 공원의 가장자리에 서서, 수백 명의 사람들이 경로를 가로지르고, 정원에서 멈춰 서고, 성을 향해 거니는 모습을 지켜본다고 상상해 보십시오. 도시 계획가와 관광 담당자들에게 방문객들이 왜 한 경로를 다른 경로보다 선택하는지를 이해하는 것은 단순히 호기심의 문제가 아닙니다. 그것은 인파를 관리하고, 취약한 유적지를 보호하며, 돈이 올바른 곳으로 흐르도록 보장하기 위한 핵심적인 도구입니다. 한 목적지가 흩어져 있는 명소들 사이를 이동하는 사람들을 돕기 위해 새로운 전기 셔틀이나 자전거 공유 시스템을 도입하려고 할 때, 그들은 어려운 질문에 직면합니다. 이 새로운 서비스가 실제로 사람들이 탐험하는 방식을 바꿀 것인가, 아니면 방문객들이 단순히 똑같이 붐비는 장소에 더 빨리 도착하기 위해 이를 이용할 것인가 하는 점입니다. 전통적인 컴퓨터 모델은 인간의 움직임을 단순한 단계의 연속으로 취급하여, 갑작스러운 소나기, 지친 아이, 또는 단순히 조용한 벤치를 찾고 싶은 욕구와 같은 복잡하고 실제적인 요인들을 무시하기 때문에 이 질문에 답하는 데 어려움을 겪습니다. 이러한 오래된 시스템은 패턴을 학습하기 위해 방대한 양의 과거 데이터를 필요로 하며, 한 번도 본 적 없는 새로운 상황에 직면했을 때 정확하게 예측하는 데 실패하곤 합니다.
오사카 대학교와 RIKEN 계산과학 연구 센터의 연구진은 대규모 언어 모델(LLM)로 알려진 유형의 인공지능을 활용함으로써 다른 접근 방식을 취했습니다. 이들은 이야기를 쓰고, 복잡한 질문에 답하며, 대화를 나눌 수 있는 강력한 컴퓨터 시스템으로, 방대한 인류의 텍스트 라이브러리를 통해 학습된 것입니다. 연구진은 이 모델들이 이미 인간 행동에 대한 깊고 직관적인 이해를 갖추고 있다는 사실을 깨달았습니다. 이 모델들은 사람들이 비가 오면 은신처를 찾고, 가족 단위 방문객은 빈번한 휴식이 필요하며, 점심시간은 보통 음식을 찾는 시간을 의미한다는 것을 "알고" 있습니다. 연구진은 이 기존의 지식 있는 시스템을 처음부터 새로 구축하는 대신, 이 시스템에게 특정 장소를 탐색하는 법을 가르치기로 결정했습니다. 그들은 일본의 와카야마 성 공원을 연구 대상으로 삼았는데, 이곳은 역사적인 성곽, 정원, 동물원, 그리고 수많은 휴식 공간이 있는 넓은 목적지입니다. 2023년 12월의 시범 프로그램 동안, 연구진은 566명의 관광객으로부터 상세한 이동 기록을 수집하여 그들이 어디를 갔는지, 언제 도착했는지, 무엇을 했는지를 추적하는 동시에 날씨와 시간대도 함께 기록했습니다.
컴퓨터에게 가르치기 위해, 연구진은 이러한 가공되지 않은 이동 기록을 언어 모델이 이해할 수 있는 형식, 즉 단순하고 구조화된 이야기로 변alph했습니다. 그들은 각 방문객을 연령이나 그룹 유형과 같은 특정 특성을 가진 캐릭터로 묘사했고, 현재 날씨를 설정하여 장면을 구성했습니다. 그런 다음 방문객의 여정을 시간, 행동, 방문한 특정 장소 순으로 나열하여, 마치 공원에서 보낸 하루에 대한 일기를 쓰는 것처럼 작성했습니다. 그러고 나서 컴퓨터가 이 이야기들을 읽고 사람들이 실제로 공원을 어떻게 이동하는지에 대한 패턴을 학습하도록 했습니다. 목표는 모델이 특정 시점까지의 방문객 이력을 보고 다음에 어디로 갈지를 정확하게 예측할 수 있는지 확인하는 것이었습니다. 이 과정은 '미세 조정(fine-tuning)'이라고 불리며, 이를 통해 모델은 인간 본성에 대한 일반적인 지식과 와카야마 성 공원의 특정 레이아웃 및 습관을 결합할 수 있었습니다.
결과는 놀라웠습니다. 모델이 한 번도 본 적 없는 새로운 방문객들을 대상으로 테스트했을 때, 모델은 관광객이 다음에 방문할 구체적인 장소를 약 49%의 확률로 정확하게 예측했습니다. 이는 약 9~15% 정도만 정확하게 맞혔던 전통적인 통계 방식에 비해 상당한 개선입니다. 기존 방식들은 맥락을 고려하지 못했기 때문에 자주 실패했습니다. 즉, 비가 오는 날에는 방문객이 열린 정원을 건너뛰고 바로 실내 박물관으로 향할 것이라는 점을 이해하지 못했습니다. 그러나 언어 모델은 내장된 상식을 사용하여 이러한 조정을 수행했습니다. 데이터가 부족한 상황, 예를 들어 방문객 기록이 몇 안 되는 비 오는 날에도 모델은 높은 수준의 정확도를 유지하며 사람들이 실내 은신처를 찾을 것이라고 정확히 예측했습니다. 또한 모델은 명시적으로 규칙을 프로그래밍하지 않았음에도 불구하고, 주요 랜드마크 방문으로 시작해 점심 식사로 이어지고 오후의 휴식으로 끝나는 현실적인 일일 일정 전체를 성공적으로 생성해 냈습니다.
연구진은 모델이 '어디로' 갈지를 맞히는 것만큼이나 결정의 '이유'를 이해하는 능력이 중요하다는 것을 발견했습니다. 모델은 특정 상점이나 정원의 정확한 이름을 예측하는 데는 약간 덜 정확했지만, 방문객이 식당이나 역사적 유적지와 같은 '유형'의 장소를 선택할 것이라는 점은 매우 잘 예측했습니다. 이는 모델이 관광객의 일반적인 의도를 학습했음을 시사합니다. 흥미롭게도, 연구진은 일본어와 일본 문화에 특화되어 훈련된 버전의 모델도 테스트해 보았으나, 일반적인 다국어 버전이 더 우수한 성능을 보였습니다. 이는 사람들이 어떻게 움직이고 선택을 내리는지를 이해하는 데 있어서는, 전문화된 언어 훈련보다 일반적인 모델이 가진 광범-다양한 인간 행동에 대한 지식이 더 가치 있다는 것을 나타냅니다.
이 연구는 인간 행동을 완벽하게 예측하는 문제를 해결했다고 주장하거나, 이러한 모델이 새로운 정책이 미래를 어떻게 바꿀지를 정확히 예측할 수 있음을 증명하는 것도 아닙니다. 연구진은 자신들의 모델이 현재 조건 하에서 사람들이 무엇을 할지 예측하는 강력한 도구이지만, 새로운 셔틀버스 도입과 같은 새로운 개입의 효과를 시뮬레이션하기 위해서는 추가적인 테스트가 필요하다는 점을 주의 깊게 명시하고 있습니다. 그러나 이 연구는 대규모 언어 모델이 인간 행동을 비추는 매우 정확한 거울 역할을 할 수 있으며, 공원에서 보내는 하루를 정의하는 미묘하고 맥락 의존적인 결정들을 이해할 수 있음을 보여줍니다. 지친 부모가 긴 산책 대신 벤치를 선택하는 이유나, 더운 날에 그룹이 언덕을 피하는 이유와 같은 논리를 포착함으로써, 이 기술은 목적지 관리자들이 단순한 통계를 넘어 방문객들에 대한 더 깊은 이해를 바탕으로 미래를 계획할 수 있는 새로운 방법을 제시합니다.
연구 분야의 논문에 파묻히고 계신가요?
연구 키워드에 맞는 최신 논문의 일일 다이제스트를 받아보세요 — 기술 요약 포함, 당신의 언어로.