技術概要：TransitLM

問題定義

公共交通の経路計画は、従来、構造化された地図インフラ、複雑なルーティングエンジン（例：Dijkstra、A*、RAPTOR）、およびリアルタイムの時刻表データに依存し、トポロジカルネットワーク上で候補を検索・ランキングする。公共交通プラットフォームからの大規模な経路計画ログには、乗車駅、乗り換え、ユーザーの嗜好など、豊富なルーティング知識が暗黙的にエンコードされているが、既存のデータセットは、外部の地図やエンジンへの依存を回避するモデルのトレーニングを支援できていない。

• 車両軌跡データセット（例：T-Drive、Porto Taxi）は、駅構造や路線識別子を持たない。
• 静的ネットワークデータセット（例：GTFS、CPTOND-2025）はトポロジを含むが、ユーザーの行動や計画軌跡を欠いている。
• 汎用 LLM（例：GPT-4、Qwen3）は、適切なトレーニングデータと構造的な基盤の欠如により、公共交通計画に苦戦し、存在しない駅の幻覚、切断された経路、無効な乗車地点を頻繁に生成する。

その結果、出発地・目的地（OD）情報から直接、エンドツーエンドかつ地図なしで公共交通経路を生成できる既存のソースは存在しない。

手法

著者らは、外部の地図インフラなしでデータ駆動型の公共交通計画を可能にする大規模データセットおよびベンチマーク「TransitLM」を導入する。

1. データセット構築

TransitLM は、アリババグループの Amap が提供する、北京、上海、深圳、成都の 4 つの中国都市における 1,300 万件以上の公共交通経路計画ログから構築された。

• 規模: 120,845 の駅と 13,666 の路線を網羅。
• データスキーマ:
  • 継続的事前学習（CPT）: 1,290 万件の経路計画セッションと 100 万件の駅および路線の静的記述からなる 1,390 万件のレコード。セッションには、クエリ（GPS 座標、POI 名）と、完全な駅 ID シーケンス、路線識別子、セグメントレベルのタイミング、およびユーザー選択ラベルを備えた候補経路がエンコードされている。
  • ベンチマーク SFT データ: 3 つの特定のタスク用の標準化されたプロンプトとラベル。データ漏洩を防ぐため、別の期間から構築された。
• 語彙の拡張: 存在しない駅の幻覚を防ぐため、すべての 120,845 の駅 ID がモデル語彙内の専用トークンとして登録され、各駅が単一のトークンとして表現される。

2. ベンチマークタスク（TransitBench）

ベンチマークは、各タスク 10,000 件のテストサンプルを用いて、モデルを 3 つの中核タスクで評価する。

1. 最適経路生成（ORG）: OD 座標に基づき、単一の最適経路（路線シーケンス、駅 ID、乗り換えマーカー、距離、時間、運賃）を生成する。
2. 嗜好認識計画（PRG）: 明示的な制約（地下鉄優先、バス優先、乗り換え回数最少、最短時間）を満たす経路を生成する。
3. 複数経路生成（DRG）: 単一の応答で 3 つの多様な経路を生成する。

3. 評価指標

パフォーマンスは 5 つのカテゴリーで測定される。

• 接続性: 連続する駅ペアが、共有路線または有効な乗り換えを通じて到達可能か検証する。
• アクセス実現性: 駅グラウンディング（SG）（予測された乗車・降車駅が OD に対してモード固有の距離閾値内にあるか確認）と距離妥当性（DP）を含む。
• 経路重なり: 路線重なり（LO）、駅シーケンス重なり（SSO）、経路完全一致（REM）による構造的な一致を測定する。
• 数値フィールドの精度: 距離、時間、運賃に対する推定精度（EA）と平均絶対百分率誤差（MAPE）。
• タスク固有の指標: 嗜好準拠（PC）と経路多様性（RD）。

4. トレーニングパイプライン

モデル（Qwen3-0.6B、1.7B、4B）は、2 段階のパイプラインを経てトレーニングされる。

1. 継続的事前学習（CPT）: モデルを 1,390 万件のレコードコーパスでトレーニングし、ネットワークトポロジと空間関係を内部化させる。
2. 教師あり微調整（SFT）: モデルを特定のベンチマークタスクで微調整する。一般化性をテストするため、3 つのタスクの全データを組み合わせたデータでトレーニングしたジョイント変種（4B-Joint）も用意される。

主要な結果

実験により、エンドツーエンドかつ地図なしの経路生成が実現可能であり、ドメイン固有のデータがモデルの規模や汎用的な推論能力よりも重要であることが示された。

• 汎用 LLM に対する優位性: 最適経路生成において、汎用 LLM は（出力要件を簡略化した場合でも）低い接続性（最大 75.5%）と経路完全一致（最大 40.2%）しか達成できなかった。対照的に、ドメインでトレーニングされた Qwen3-4B は97.0% の接続性と71.0% の経路完全一致を達成した。
• 暗黙的な空間グラウンディング: GPS 入力のみ（すべてのテキスト POI 名を除去）でテストした際、汎用 LLM は崩壊し（駅グラウンディングが約 16-24%、REM が 1% 未満に低下）、空間理解ではなくテキストの手がかりに依存した。一方、TransitLM でトレーニングされたモデルは高いパフォーマンスを維持し（Qwen3-4B の REM は 71.0% から 70.4% にわずかに低下のみ）、明示的なマッピングなしで任意の座標を駅に解決することを学習したことを証明した。
• タスク非依存性: 3 つのタスクを同時にトレーニングした4B-Jointモデルは、すべての指標で単一タスクの対応モデルと同等かそれ以上の性能を示し、学習された公共交通知識がタスク非依存であり、ネガティブな転移なしに統合展開を支援することを確認した。
• データスケーリング: パフォーマンスは CPT データ量と単調にスケーリングする。CPT データのわずか 6.25% であっても、モデルは 94.0% の接続性を達成したが、正確な経路一致には完全なデータセットが必要であった。

意義と主張

本論文は、TransitLMが公共交通計画において以下の新しいパラダイムを確立すると主張する。

1. 地図なし生成の実現性: 豊富な軌跡データのみが、従来の地図ベースのルーティングエンジンを代替できる。モデルは構造的に有効で接続された経路を生成し、外部の地理データベースなしで GPS 座標を駅に暗黙的にグラウンディングすることを学習する。
2. データが決定的な要因: 公共交通計画における LLM のボトルネックはモデル容量ではなく、ドメイン知識である。専門的なトレーニングデータにより、小規模なモデル（0.6B）が、この特定のタスクにおいて大規模な汎用モデルを上回る性能を発揮する。
3. 統合表現: 単一のモデルが多様な計画目標（最適性、嗜好、多様性）にわたって一般化でき、これは基礎となる公共交通トポロジ表現が堅牢で転送可能であることを示唆する。

著者らは、データセットが 4 つの中国都市に限定されていること、リアルタイムのダイナミクスを欠く静的ネットワークスナップショットを使用していること、地理的拡張に必要な線形的な語彙の成長といった限界を指摘している。今後の研究として、より広範な地理領域とリアルタイムのダイナミクスへの探求が提案されている。