A Comparative Study of Deep Learning Architectures for Multi-Horizon Behavioural Forecasting for Mobile Health

要約

スマートウォッチが、歩数、スマホの視聴時間、睡眠の質など、あなたの24時間365日の生活を記録していると想像してみてください。この研究の目的は、過去のデータを見て、あなたの明日、来週、あるいは8日後の行動がどうなるかを予測できる「水晶玉」を作り上げることです。

研究者たちは、どの「水晶玉」（コンピュータモデル）が最も正確に将来の習慣を予測できるかを確認するために、800人以上のデータを用いて9種類の異なるモデルをテストしました。

以下に、その研究結果を分かりやすい比喩を用いて解説します。

1. コンテストの出場者： 「水晶玉」の正体とは？

研究者たちは、3種類のモデルを戦わせました。

• 「クラシック」系（統計モデル）： これらは、昨日の降水量を見て明日の天気を予想する昔ながらの気象予報士のようなものです。シンプルですが、全体像を見落としがちです。
• 「ディープラーナー」系（学習済みAI）： これらは、膨大な教科書（800人以上の習慣）を読み込み、人間の行動に関する一般的なルールを学ぶ学生のようなものです。賢いですが、「万人に当てはまるルール」を全員に適用しようとします。
• 「基盤モデル」系（ゼロショット・エキスパート）： これらは、あなたに出会う前に、すでに図書館にあるすべての本（数十億のデータポイント）を読み終えている天才のようなものです。彼らは「あなた固有の習慣」をまだ勉強していませんが、膨大な一般知識に基づいて、あなたの未来を推測しようとします。

2. 大きな発見： 「最強のモデル」は一つではない

最も重要な発見は、単一のモデルが常に勝つわけではないということです。これは、レースカーがサーキットでは強力でも、吹雪の中では役に立たないのと同様に、状況によって全く異なります。

• 「PatchTST」モデル： 「ディープラーナー」の中でスター選手でした。特に歩数とスクリーンタイムの予測において、最も優れたパフォーマンスを発揮しました。最も信頼できる「ジェネラリスト（万能型）」と言えます。
• 「TimesFM」モデル： この「ゼロショット」の天才は、特定のグループを学習する必要さえありませんでした。実際、データが少ない場合（少人数のグループなど）、TimesFMはデータを何ヶ月もかけて学習してきたモデルと同等、あるいはそれ以上の成果を出しました。これは、一度も見たことがない人のキッチンを見ることなく、完璧な料理を作れるシェフのようなものです。
• 「睡眠」の驚き： 睡眠の予測は難題でした。人の睡眠は非常に規則的なため、「昨夜と同じように眠るだろう」と予測するだけの非常に単純なモデル（NaiveLastと呼ばれます）が、実は非常に強力でした。複雑なAIモデルは、パーソナライズされるまでは、この予測において苦戦しました。

3. 秘密兵器：「パーソナライゼーション（仕立て屋）」

研究の結果、精度を劇的に向上させる最大の要因は**パーソナライゼーション（個人最適化）**であることが分かりました。

「ディープラーナー」モデルを、平均的な人間の体型に合わせて作られたスーツを作る仕立て屋だと想像してください。それだけでは、フィットはしますが完璧ではありません。
パーソナライゼーションとは、その仕立て屋が、あなたの肩幅やウエストの寸法を測り、そのためにスーツを調整することです。

• 結果： モデルを各個人に合わせて「微調整（ファインチューニング）」したところ、予測精度は16%から60%向上しました。
• 最も恩恵を受けたのは？：
  • 睡眠： 最も大きな恩恵を受けました。睡眠習慣は非常に個人的で一貫しているため、モデルをカスタマイズすることで大きな差が生まれました。
  • 歩数： 恩恵は最小限でした。歩行習慣はよりランダムで外部要因の影響を受けやすいため、モデルのカスタマイズによる効果は限定的でした。
• 注意点： これを行うには、十分なデータが必要です。データが数日分しかない状態でモデルをカスタマイズしようとするのは、ごく小さな布切れでスーツを仕立てようとするようなもので、失敗（過学習）を招きます。これを機能させるには、少なくとも数週間分のデータが必要です。

4. 「タイムホライゾン（予測期間）」の問題

研究者は、1日前から8日前までの予測をテストしました。

• 短期（1日先）： モデルはかなり優秀です。
• 長期（8日先）： 天気予報が明日よりも1週間後の予測の方が外れやすいのと同様に、精度は自然と低下します。
• 意外な展開： パーソナライゼーションの価値は、より遠い未来を予測するほど高まります。「平均的な」モデルは8日後のあなたの行動を予測できなくなりますが、「パーソナライズされた」モデルは真実にずっと近い状態を維持します。

5. 実社会における実用的な教訓

この論文は、こうしたヘルスケアアプリを開発する人々へのシンプルな戦略を提案しています。

1. まだデータがない場合： 「TimesFM」のような天才モデルを使用してください。事前にあなたを学習させる必要がなく、すぐに優れた働きをします。
2. 多くのデータがある場合： 「PatchTST」モデルを使用してください。大規模なグループから学習する上で、最も優れた万能型です。
3. 遠い未来（3〜8日後）を予測したい場合： 最良のモデルを選び、それを特定のユーザーに合わせてパーソナライズしてください。こここそが、特に睡眠予測において魔法が起きる場所です。

まとめ

論文は、高度なAIは強力ではあるものの、単に「最も賢いアルゴリズム」を選ぶことが最善の策ではないと結論づけています。重要なのは、手元にあるデータに最適なツールを選び、そして決定的なのは、そのツールを個々のユーザーに合わせてカスタマイズすることです。一般的な健康計画が一部の人には合っても他の人には合わないのと同様に、一般的な予測モデルは集団には機能しますが、パーソナライズされたモデルこそが「あなた」のために機能するのです。

技術概要

技術要約：モバイルヘルスにおけるマルチホライゾン行動予測のためのディープラーニング・アーキテクチャの比較研究

問題提起
ウェアラブルデバイスやスマートフォンは、歩数、スクリーンタイム、睡眠時間といった、プロアクティブな健康介入の可能性を秘めた豊かな行動時系列データを生成する。しかし、これらの特定のデータタイプに対する現代的なディープラーニング予測アーキテクチャの系統的な比較は不足している。特定された重要なギャップは以下の通りである：(1) 現代的なアーキテクチャ（Transformer、状態空間モデル）を連続的な行動予測に特化して評価した研究が欠如していること（先行研究は分類に重点を置いているため）。(2) モデルが新しいユーザーへの転移に失敗することが多いという、集団間汎用性の課題。(3) 単一ステップの予測ではなく、長期間（1〜8日間）の予測が実用上必要であるにもかかかわらず、マルチホライゾン分析が行われていないこと。

手法
本研究では、800人以上の参加者を含む3つの公開データセット（GLOBEM、CAPTURE-24、Continuous Wearables）を用いて、9つの予測手法をベンチマークする。評価は、以下の3つの異なるモデリングパラダイムを対象としている：

1. グローバル（Global）： 全てのトレーニングユーザーから収集されたプールされたデータを用いて、単一のモデルを学習させる。
2. 基盤モデル（Foundation Models / Zero-Shot）： タスク固有の学習を行わずに、直接適用される事前学習済みモデル。
3. パーソナライズ（Personalised）： 個々のユーザーデータを用いてファインチューニングされたグローバルモデル。

評価されたアーキテクチャ：

• 学習済みディープラーニング： MLP、LSTM、Temporal Convolutional Networks (TCN)、Transformer、Mamba、PatchTST。
• 基盤モデル： TimesFM（1000億ポイント以上のデータで事前学習されたデコーダーのみのモデル）、Reverso（ハイブリッド畳み込み/リカレンス）。
• 統計的ベースライン： Naive (Last)、移動平均、ARIMA。

実験設定：

• 特徴量： 歩数、スクリーンタイム、睡眠時間。
• ホライゾン： 1日から8日間の予測を評価。
• 指標： 平方根平均二乗誤差 (RMSE)、平均絶対誤差 (MAE)、対称平均絶対パーセント誤差 (sMAPE)、およびスキルスコア（Naive Lastベースラインに対する相対値）。
• パーソナライゼーション戦略： グローバルな最適解をまず確立した後、学習率を下げて個々のユーザーの記録でファインチューニングを行う、2段階の転移学習手順。

主な結果

1. 支配的な単一アーキテクチャは存在しない： パフォーマンスの順位はデータセットに依存する。学習済みモデルの中では、PatchTSTが、歩数とスクリーンタイムにおいて、日次データ（GLOBEM）で概して優位に立つ。しかし、TCN、MLP、Transformerの間には、多くのシナリオで意味のある性能差は見られない。Mambaは、時間単位のデータ（CAPTURE-24）において堅牢性を示す。
2. 基盤モデルの有効性： TimesFMは、ゼロショット設定において、特にデータが少ないレジーム（例：N=10のWearablesデータセット）において、学習済みモデルと同等またはそれを上回る性能を示す。睡眠時間については優れているが、時間単位のデータに対しては負のスキルを示しており、これはその事前学習分布とサブデイリー（1日未満）の健康シグナルとの間のミスマッチを示唆している。Reversoは概して下回った。
3. パーソナライゼーションの影響： パーティシパントレベルのファインチューニングにより、特徴量ごとのRMSEが16〜60%減少した。この恩恵は特徴量に強く依存する：
   • 睡眠： 個人のパターンが安定しているため、最も大きな恩恵を受ける（43〜60%の減少）。
   • スクリーンタイム： 中程度の恩恵（19〜36%）。
   • 歩数： 最も恩恵が小さい（16〜46%）。
   • ホライゾン依存性： パーソナライゼーションによる利得は、予測ホライゾンとともに増加する。短いホライゾン（h=1）では、グローバルモデルがすでに集団のパターンを十分に捉えているが、長いホライゾン（h=8）では、個人の行動ドリフトを捉えるためにパーソナライゼーションが不可欠となる。
4. データ不足のリスク： パーソナライゼーションには、十分なユーザーごとのデータが必要である。観測値が疎なデータセット（例：約22個の時間単位データを持つCAPTURE-24）では、ファインチューニングはオーバーフィッティングを招き、長いホライゾンにおいて最大40%の性能低下を引き起こした。
5. 不確実性の定量化： PatchTSTの経験的な予測区間は、Naiveベースライン（±90分）と比較して著しく狭く（例：スクリーンタイムで±24分）、かつニア・ノミナルな被覆率を維持していた。

意義と主張
著者らは、これが現代的なディープラーニングアーキテクチャ、基盤モデル、およびパーソナライゼーション戦略を、ウェアラブルからのマルチホライゾン行動予測のために共同で評価した初めての研究であると主張している。

本研究は、モバイルヘルス・コミュニティに対して以下の実用的な指針を提供する：

• アーキテクチャの選択： 普遍的に優れた単一のモデルは存在しない。選択は、データセットのサイズ、時間的粒度、およびシーケンス長に依存すべきである。十分な履歴がある日次データにはPatchTSTが推奨され、より高頻度のデータにはMambaが有望である。
• 基盤モデルの適用可能性： ユーザーごとのデータが乏しい場合、TimesFMは強力なゼロショットのデフォルトとして機能するが、その性能は、その事前学習ドメインとターゲットとなる健康シグナルとの整合性に左右される。
• パーソナライゼーション戦略： ファインチューニングは、個人の規則性が高い特徴量（睡眠など）や、より長い予測ホライゾンに対して最も価値がある。ただし、オーバーフィッティングを避けるためには、最低限の個別データが必要である。

本論文は、ディープラーニングは統計的ベースラインに対して大幅な改善をもたらす一方で、戦略（グローバル vs パーソナライズ vs ゼロショット）の選択は、具体的なデータの特性および意図する予測ホライゾンによって決定されなければならないと結論付けている。