技術的概要：マルチモーダル時系列予測のためのポストトレーニングレシピの再考（POSTTIME）

問題定義

時系列基盤モデル（TSFMs）は、膨大な歴史的数値データのコルパスを活用することで、単一モーダル予測ベンチマークにおいて最先端のゼロショット性能を達成しています。しかし、現実世界の予測はめったに単一モーダルではなく、将来の軌道は、速報ニュース、政策変更、ドメイン固有のテキスト記述などの外生的な非数値的要因によって頻繁に形成されます。TSFM は数値入力に構造的に制約されており、このマルチモーダルな文脈を直接消費することができません。

一方、大規模言語モデル（LLM）は複雑なマルチモーダルデータを処理し、高度な推論を実行する点で優れていますが、生の数値予測タスクにおいては TSFM よりも性能が劣ることが示されています。本研究が取り組む中心的な課題は、TSFM の数値的安定性と LLM のマルチモーダル推論能力を体系的に統合し、堅牢な予測を実現する方法です。既存のアプローチでは、しばしば時間的モダリティを変換したり、マルチモーダル・コルパス上でゼロからモデルを事前学習させたりしますが、本論文は異なるパラダイムを提案します：市販の LLM をポストトレーニングし、強力な数値的 TSFM 事前分布に対する文脈誘導型の修正者（reviser）として機能させること。

手法：POSTTIME レシピ

著者は、LLM に文脈条件付き予測介入を生成することを教えるために設計された、2 段階のポストトレーニングレシピであるPOSTTIMEを導入します。中核となる仮説は、LLM は単独の予測者としてではなく、TSFM（例：TimesFM-2.5）によって生成されたベース予測を、マルチモーダル文脈に基づいて維持するか、無視するか、修正するかを決定する「修正者」として機能すべきであるという点です。

1. LLM の役割：予測者ではなく修正者

実証分析により、LLM を直接の予測者（履歴と文脈を入力して予測を生成）として扱うことは、LLM を修正者（履歴、文脈、TSFM 事前分布を入力して修正済み予測を生成）として使用するよりも劣った結果をもたらすことが示されました。修正者という役割は推論タスクを単純化し、LLM がテキスト情報を統合し、較正された調整を行う一方で、予測を TSFM の強力な数値的事前分布に固定することを可能にします。

2. 第一段階：多様なトレースを用いた教師あり微調整（SFT）

SFT 段階では、LLM に効果的な修正戦略を教えることを目的とします。著者は、POSTTIME を標準的な実践から区別する重要な設計選択を特定しています。

• 推論トレースの生成: 観測されたホライズン（正解ラベル）を模倣目標として使用すること（これは後知恵バイアスを導入し、将来予測に対してノイズとなる）の代わりに、著者はフロンティア LLM（Gemini-3.1-Flash-Lite）を使用して予測時のトレースを生成します。これらのトレースは未来を見ずに文脈について推論し、修正済み予測が TSFM 事前分布を上回るかどうかで定義される「有効な」複数の推論経路を生成します。
• データサンプリングと困難なケース: 「易しい」サンプルをフィルタリングする実践とは異なり、POSTTIME は困難で曖昧なケースを保持します。データセットには、文脈が弱いか誤解を招くサンプルが含まれており、LLM は修正しない場合（つまり、TSFM 事前分布に戻す場合）を学習する必要があります。これは、各サンプルに対して 5 つの独立した修正を生成し、明確な改善、曖昧な介入、事前分布を維持すべきケースという、結果の全スペクトルを網羅するトレースを保持することで達成されます。
• フォールバック機構: 生成された修正が TSFM 事前分布を改善しない場合、LLM が文脈が修正を正当化しないことを明示的に述べて、元の事前分布を出力するように訓練されるフォールバック目標が挿入されます。

3. 第二段階：検証可能な報酬を用いた強化学習（RLVR）

RL 段階では、修正の効果を最大化するように方策を洗練させます。

• 報酬設計: 標準的な RL アプローチでは、しばしば絶対的な予測精度（例：ExpMAE）を報酬として使用します。著者は、これは修正者には不十分であると主張します。なぜなら、それは良い修正と良い事前分布を区別しないからです。代わりに、POSTTIME は修正済み予測のベース TSFM 事前分布に対する相対的改善度を測定する**改善率（ImpRatio）**報酬を使用します。
• 利点: この報酬関数は、より強力な選好シグナルを提供し、報酬崩壊（複数の完了が類似したスコアを受けること）を減少させ、モデルが修正が実際に有益な場合と有害な場合を区別して学習することを促します。

主要な貢献

1. パラダイムシフト: 本論文は、マルチモーダル予測の直接実行よりも「文脈誘導型の修正者」パラダイムを支持し、検証します。LLM はゼロから予測を生成するのではなく、強力な TSFM 事前分布に介入する立場にあることが最適であることを示しています。
2. POSTTIME レシピ: 多様な予測時推論トレースを用いた SFT と、改善に基づく報酬を用いた RL を組み合わせた、新規のポストトレーニングフレームワーク。
3. 自動化されたデータ構築: 人間のループによる注釈なしに、高品質な自動化された推論トレースとフォールバック例を生成する手法。修正の有用性のスペクトル（易しいケースから不可能なケースまで）を効果的に処理します。
4. 報酬の革新: 絶対精度の達成ではなく、事前分布の改善という特定の目標と RL 目的を整合させる ImpRatio 報酬関数の導入。

実験結果

著者は、LLM としてGemma-3-4B、TSFM 事前分布としてTimesFM-2.5を使用し、TimesXマルチモーダル予測ベンチマーク上で POSTTIME を評価しました。

• 性能: POSTTIME モデル（SFT + RL）は、単独の TSFM、LLM のみのベースライン、ゼロショットの LLM+TSFM 修正、既存のマルチモーダル予測モデル（TimeOmni、Aurora、ChatTS を含む）を大幅に上回りました。
  • ドメイン内（ID）テストセットにおいて、POSTTIME は TimesFM-2.5 の nMAE を6.38%、nMSE を**12.43%**改善しました。
  • ドメイン外（OOD）テストセットにおいて、nMAE を3.93%、nMSE を**11.24%**改善しました。
• アブレーション研究:
  • 修正者対予測者: 8 種類の異なる LLM において、TSFM 事前分布を修正することは、直接予測を行うことよりも一貫して優れていました。
  • トレースの多様性: 多様な推論トレースと困難なケース（フォールバック）を含めることが重要でした。「易しい」ケースのみをフィルタリングすると、テール性能（p99 指標）が低下しました。
  • 報酬設計: ImpRatio 報酬は、標準的な ExpMAE 報酬と比較して報酬崩壊を大幅に減少させ、より安定した効果的な方策最適化をもたらしました。
  • 一般化: このレシピは、異なるベース LLM（例：Qwen3-4B）や異なるトレース生成器に適用された場合にも堅牢であることが証明されました。

意義と主張

本論文は、POSTTIME が数値的 TSFM とマルチモーダル LLM の間のギャップを埋めるためのスケーラブルで効果的なレシピを提供すると主張しています。LLM の役割を文脈誘導型の修正者として再定義し、特定のデータ構築と報酬戦略を用いてポストトレーニングプロセスを最適化することで、ゼロからの事前学習を必要とせずに優れたマルチモーダル予測精度を達成します。

著者は、自らの手法が LLM に「較正された」能力を教えることを強調しています。つまり、どのように修正するかだけでなく、文脈が不十分な場合に数値的事前分布をいつ維持すべきかも知っているという能力です。この能力は、テキスト文脈がノイズを含んだり無関係であったりする現実世界の堅牢な展開において不可欠です。この研究は、マルチモーダル時系列タスクにおいて、最も効果的な相互作用メカニズムは単一モデルの入力または出力でモダリティを融合することではなく、LLM を用いて専門的な数値モデルの出力を批判的に評価し、介入することである可能性を示唆しています。