Large Language Models for Travel Behavior Prediction

본 논문은 제로샷 프롬프팅과 LLM 기반 텍스트 임베딩을 활용한 두 가지 프레임워크를 통해 대규모 언어 모델 (LLM) 이 기존 전통적 모델과 경쟁력 있는 성능으로 이동 행동 예측에 효과적으로 적용될 수 있음을 실증적으로 입증했습니다.

핵심

🍳 1. 기존 방식 vs 새로운 방식: "레시피"와 "요리 실력"의 차이

기존 방식 (수학 모델):
과거의 연구자들은 여행 선택을 예측할 때, 마치 정해진 레시피를 따르는 요리사처럼 행동했습니다.

• "시간이 10 분 줄면 5% 더 선택한다", "비용이 10% 비싸면 3% 덜 선택한다" 같은 숫자 공식을 미리 만들어두고, 데이터를 넣으면 결과가 나오는 방식입니다.
• 단점: 만약 레시피에 없는 새로운 상황 (예: 갑자기 기름값이 폭등하거나, 새로운 교통수단이 생김) 이 나오면 당황해서 제대로 된 요리를 못 합니다. 또한, 레시피를 만들기 위해 **엄청난 양의 과거 데이터 (재료)**가 필요했습니다.

새로운 방식 (LLM 활용):
이 논문은 **수천 권의 책과 경험을 읽은 '천재 요리사 (인공지능)'**를 데려왔습니다.

• 이 천재 요리사는 구체적인 레시피 (수학 공식) 를 외우지 않아도, **"사람이라면 보통 어떻게 생각할까?"**라는 상식과 논리를 통해 바로 요리를 해냅니다.
• 장점: 과거 데이터가 거의 없어도, 상식과 논리만으로 "아, 이 사람은 시간이 중요하니까 기차를 탈 거야"라고 추측할 수 있습니다.

---

🚀 2. 이 논문이 제안한 두 가지 '요리법'

저자들은 이 천재 요리사를 활용하는 두 가지 방법을 실험했습니다.

① 방법 1: "질문만 던지면 바로 답을 주는 방식" (Zero-shot Prompting)

• 상황: "이 사람은 출근길인데, 기차는 1 시간 걸리고 1 만 원, 차는 40 분 걸리고 1 만 2 천 원이야. 이 사람은 차를 탈까?"라고 물어봅니다.
• 작동: 인공지능이 학습 (훈련) 없이도 바로 "시간이 20 분이나 더 걸리고 비용도 비싸니, 차를 탈 확률이 낮을 거야"라고 답을 내놓습니다.
• 결과: 데이터가 전혀 없는 상황에서도 기존 수학 모델 못지않게 잘 맞췄습니다. 마치 경험 많은 선배가 처음 보는 문제를 보고도 "아, 이런 경우엔 보통 저렇게 하더라"라고 바로 답을 내는 것과 같습니다.

② 방법 2: "요리사의 '감'을 추출해서 쓰는 방식" (Embedding)

• 상황: 데이터가 아주 적을 때 (예: 10 명분의 데이터만 있음) 는 천재 요리사에게 직접 답을 구하는 것보다, 요리사의 '감 (감각)'을 추출해서 쓰는 게 나을 수 있습니다.
• 작동: 인공지능이 여행 상황을 읽고 "이 상황의 느낌은 A, B, C"라는 **고차원적인 요약 (임베딩)**을 만들어냅니다. 이 요약된 정보를 기존 수학 모델에 주면, 적은 데이터로도 훨씬 잘 예측합니다.
• 비유: 요리사에게 직접 요리를 시키는 게 아니라, 요리사가 쓴 '맛있는 레시피 노트'를 가져와서 초보 요리사 (기존 모델) 가 그 노트를 보고 요리를 잘하게 만드는 것입니다.

---

🔍 3. 실험 결과: "데이터가 부족할 때 인공지능이 더 낫다!"

• 데이터가 많을 때: 기존 수학 모델 (레시피) 이 가장 정확했습니다.
• 데이터가 적을 때: 기존 모델들은 엉뚱한 답을 내놓거나 아예 망쳤습니다. 하지만 **인공지능 (LLM)**은 데이터가 거의 없어도 상식과 논리를 바탕으로 꽤 정확한 예측을 했습니다.
• 해석 가능성 (가장 큰 장점): 기존 수학 모델은 "정답은 A 입니다"라고만 알려주지만, 인공지능은 "왜 A 인지"를 설명해 줍니다.
  • 예: "기차가 cheapest(가장 저렴) 하지만, 이 사람은 시간이 급해서 기차보다 빠른 지하철을 탈 거야."
  • 주의점: 가끔은 **환각 (Hallucination)**이 일어나서, 입력되지 않은 정보를 만들어내거나 논리가 꼬이는 경우도 있었습니다. (예: "이 사람은 차를 안 타고 기차를 탈 거야"라고 했는데, 사실은 차가 더 빨랐는데도 불구하고...)

---

💡 4. 결론: 여행 계획의 미래는?

이 연구는 **"여행 행동 예측에 인공지능이 새로운 도구가 될 수 있다"**는 것을 보여줍니다.

• 기존 방식: 정확한 레시피가 필요하고, 재료가 (데이터가) 많아야 잘 합니다.
• 인공지능 방식: 재료가 적어도 상식과 논리로 대처할 수 있고, 왜 그런 선택을 했는지 이유도 설명해 줍니다.

한 줄 요약:

"여행할 때 사람들이 무엇을 선택할지 예측할 때, 수많은 과거 데이터를 외운 수학 공식만 고집하지 말고, 세상을 잘 아는 인공지능의 상식과 논리를 활용하면, 데이터가 부족한 상황에서도 훨씬 똑똑하고 설명 가능한 예측이 가능해집니다!"

이 기술이 발전하면, 내비게이션 앱이 "지금 길이 막히니까 차를 타고 가세요"라고 단순히 알려주는 것을 넘어, **"시간을 아끼려면 지하철이 더 좋아요. 왜냐하면 당신은 출근길에 10 분이라도 아끼는 걸 중요하게 생각하기 때문이죠"**라고 이유까지 설명해 주는 더 똑똑한 여행 비서가 될 수 있을 것입니다.

기술 요약

1. 연구 배경 및 문제 정의 (Problem)

• 기존 접근법의 한계: 전통적인 교통 수요 관리 및 여행 행동 예측은 관찰된 데이터를 기반으로 수치 모델을 보정하는 방식 (예: 이항 로짓 모델, 랜덤 포레스트, 신경망 등) 으로 수행되어 왔습니다. 이러한 방법론은 충분한 양의 레이블이 지정된 데이터가 있을 때 효과적이지만, 데이터가 부족하거나 새로운 시나리오가 등장할 경우 예측 성능이 급격히 저하되는 문제가 있습니다.
• 연구의 목적: 최근 발전한 대규모 언어 모델 (LLM) 이 인간의 의사결정 과정을 자연어 추론을 통해 모델링할 수 있는 가능성을 탐구합니다. 특히, 여행 모드 선택 (Travel Mode Choice) 및 여행 목적 예측 (Trip Purpose Prediction) 과 같은 구체적인 여행 행동 예측 과제에서 LLM 의 성능을 검증하고, 기존 수치 모델 대비 데이터 효율성과 유연성을 평가하는 것을 목표로 합니다.

2. 방법론 (Methodology)

저자는 여행 행동 예측을 위해 LLM 을 활용하는 두 가지 상보적인 프레임워크를 제안합니다.

가. 제로샷 프롬프트 기반 예측 (Zero-shot Prompting Framework)

• 개념: 별도의 태스크별 학습 데이터 (Training Data) 없이, 프롬프트 (Prompt) 만을 통해 직접 예측을 수행하는 방식입니다.
• 프롬프트 설계 (Prompt Design): LLM 의 추론 능력을 극대화하기 위해 다음 4 가지 요소를 포함한 구조화된 프롬프트를 설계했습니다.
  1. 작업 설명 (Task Description): 예측할 대상 (모드 선택, 목적 등) 과 옵션 명시.
  2. 구조적 데이터 (Structural Data): 이동 시간, 비용, 출발지/도착지 등을 사전 (Dictionary) 형식으로 정리하여 입력.
  3. 서술적 데이터 (Descriptive Data): 개인의 속성 (예: 정기 열차 이용자 여부) 을 자연어로 서술.
  4. 도메인 지식 및 추론 가이드 (Domain Knowledge & Reasoning Guide): 체인 오브 씽킹 (Chain-of-Thought) 기법을 적용하여 LLM 이 시간과 비용의 트레이드오프를 비교하고, 도메인 지식 (예: "정기 이용자는 기차를 선호함") 을 적용하도록 유도. 또한, 수치 비교를 명확히 하기 위해 "어떤 수단이 가장 빠르고 비용이 얼마나 절감되는지"를 명시적으로 언급합니다.
• 출력: 예측 결과와 그 근거가 되는 설명 (Reasoning) 을 함께 생성하도록 요구하여 해석 가능성 (Interpretability) 을 확보합니다.

나. 임베딩 기반 하이브리드 예측 (Embedding-based Hybrid Framework)

• 개념: LLM 이 생성한 텍스트 임베딩 (Text Embeddings) 을 고수준의 특징 (Feature) 으로 추출한 후, 이를 기존 지도 학습 모델 (MNL, RF, NN 등) 의 입력값으로 활용하는 방식입니다.
• 프로세스:
  1. 여행 시나리오를 텍스트로 변환하여 LLM 에 입력.
  2. LLM 의 최종 출력 전 레이어에서 고차원 벡터 (Embedding) 추출.
  3. 추출된 임베딩을 사용하여 소규모 데이터셋 (Small-sample setting) 에서 지도 학습 모델을 훈련 및 예측.
• 목적: LLM 이 가진 방대한 사전 지식과 시맨틱 정보를 전통적인 모델에 주입하여, 데이터가 부족한 상황에서도 일반화 성능을 향상시키는 것.

3. 실험 및 결과 (Results)

• 데이터셋:
  • 모드 선택: 스위스 메트로 (Swissmetro) 선호도 조사 데이터 (1,004 명, 9,036 개의 응답).
  • 여행 목적: 2017 년 미국 가계 여행 조사 (NHTS) 데이터 (4 가지 목적 분류).
  • 실험 설정: 대규모 학습 세트 (1,000 개), 소규모 학습 세트 (10 개), 테스트 세트 (200 개) 로 구성.
• 비교 모델: 다항 로짓 (MNL), 랜덤 포레스트 (RF), 신경망 (NN).
• 주요 결과:
  1. 대규모 데이터 환경: 전통적인 지도 학습 모델 (MNL, RF, NN) 이 가장 높은 정확도를 보였습니다.
  2. 소규모 데이터 환경 (핵심 발견):
     • 학습 데이터가 매우 적을 때 (10 개 샘플), 전통적 모델의 성능은 급격히 떨어졌습니다.
     • 반면, 제로샷 LLM은 학습 데이터 없이도 전통적 모델 (소규모 학습) 보다 우수한 또는 경쟁력 있는 성능을 보였습니다.
     • LLM 임베딩 + 지도 학습 조합은 소규모 데이터셋에서 수동으로 설계된 특징을 사용한 모델보다 일관되게 높은 정확도와 F1 점수를 기록했습니다. 이는 LLM 임베딩이 수동 특징 설계로 포착하기 어려운 고수준 시맨틱 정보를 담고 있음을 시사합니다.
  3. 모델별 차이: GPT-4 는 프롬프트 설계의 세부 사항에 덜 민감하고 강건한 반면, GPT-3.5 는 '추론 가이드'와 '구조화된 데이터'가 포함되었을 때 성능이 크게 향상되었습니다.

4. 주요 기여 및 의의 (Key Contributions & Significance)

• 데이터 효율성 입증: 레이블이 지정된 데이터가 부족하거나 존재하지 않는 새로운 교통 시나리오에서도 LLM 이 유효한 예측 도구로 작동할 수 있음을 실증했습니다.
• 해석 가능성 (Interpretability) 제공: 기존 블랙박스 모델과 달리, LLM 은 예측의 근거가 되는 자연어 설명을 제공합니다. 이는 의사결정 과정을 이해하고 모델의 오류 (할루시네이션 등) 를 진단하는 데 유용합니다.
• 새로운 패러다임 제시: 전통적인 수치 모델과 LLM 을 결합한 하이브리드 접근법을 통해, 소규모 데이터 환경에서의 예측 성능을 획기적으로 개선할 수 있는 가능성을 제시했습니다.
• 한계점 및 주의사항: LLM 은 때때로 논리적 오류를 범하거나 사실과 다른 설명 (할루시네이션) 을 생성할 수 있으므로, 결정이 중요한 응용 분야에서는 신중한 검증이 필요합니다.

5. 결론

이 연구는 대규모 언어 모델이 여행 행동 예측 분야에서 기존 수치 모델을 대체하거나 보완할 수 있는 유연하고 데이터 효율적인 대안임을 보여줍니다. 특히 데이터가 부족한 상황 (Zero-shot 및 Few-shot) 에서 LLM 의 잠재력은 매우 크며, 향후 더 다양한 여행 행동 과제 (출발 시간, 경로 선택 등) 로 확장 및 검증이 필요함을 시사합니다.