技術概要：CityRep：都市表現のための統合ベンチマーク

1. 問題提起

都市表現学習は、リモートセンシング、ストリートビュー画像、関心地点（POI）、地理座標などの異質な都市観測データを、汎用的な空間埋め込み符号化することを目的としている。これらの埋め込みは、多様な下流タスクや新興の都市基盤モデルのための基盤コンポーネントとして機能することを意図している。しかし、これらの表現の評価には、以下の 3 つの決定的な限界が存在する。

1. 範囲の狭さ: 既存の評価は、通常、1 つまたは 2 つの都市、限られた数のタスク、または単一のラベルタイプに焦点を当てている。これにより、表現が真に汎用的なのか、それとも特定の狭い条件下でのみ有効なのかを評価する能力が制限される。
2. 互換性のない空間サポート: 表現モデルは、ラスターグリッド、ベクトル領域、H3 セル、または連続座標など、異なる空間サポート上で動作するが、下流タスクはしばしば異なる単位を定義する。標準化された整合メカニズムがなければ、異質なモデル間での公平な比較は不可能である。
3. 評価における空間漏洩: ほとんどの研究は、ランダムな訓練・テスト分割に依存している。強い空間的自己相関を示す都市の文脈において、ランダムな分割は、モデルが未観測地域への真の汎化ではなく、近隣にある訓練サンプルとテストサンプル間の補間によって過剰に性能を達成することを許容する。これにより、モデルの転移可能性に関する楽観的な結論が導き出される。

2. 手法：CityRep フレームワーク

これらのギャップに対処するため、著者らは、空間構造化プロトコルを用いて、データモダリティ、都市、タスクにわたる都市表現を評価するための統合ベンチマーク「CityRep」を提案する。このフレームワークは、以下の 3 つの中核コンポーネントで構成される。

A. 空間単位非依存の評価と整合

CityRep は、異質な表現を比較可能にするための標準化された整合モジュールを導入する。すべてのモデルを単一の汎用グリッドに強制するのではなく、このフレームワークは、各都市（$c$）とタスク（$t$）に対して、ネイティブな表現を下流タスクの固有の空間単位（$U_{c,t}$）に整合させる。

• メカニズム: ラスターまたは領域レベルの埋め込みの場合、システムはタスク単位内の埋め込みを集約するか、より粗い単位間で埋め込みを共有する。エンティティレベルの埋め込み（例：POI）の場合、まずエンティティを中間サポート（H3 セル）に集約し、その後、特徴の欠落を避けるためにタスク単位へマッピングする。座標エンコーダの場合、タスク単位の代表座標でエンコーダをクエリする。
• 目的: これにより、ラスター、領域、エンティティ、または座標に基づくモデルを、同一の下流インターフェース下で評価することが可能になる。

B. 空間構造化分割プロトコル

空間漏洩を軽減するため、CityRep はランダム分割に代わってブロックベースの空間分割を採用する。

• プロトコル: タスクの空間範囲を、非重なりブロック（例：$10 \times 10$グリッド）に分割する。訓練セット、検証セット、テストセットは、個々のサンプルではなく、ブロック全体を互いに排他的な部分集合に割り当てることで構成される。
• 根拠: これにより、テストサンプルが訓練サンプルから空間的に分離され、モデルが局所的な補間ではなく、未観測の地理的領域への真の汎化を実証することを強制する。

C. 多都市・多タスクベンチマークスイート

CityRep は、8 つの都市（ロンドン、ニューヨーク、シンガポール、シドニー、ムンバイ、ナイロビ、ジャカルタ、ケープタウン）と、4 つの都市ドメインに整理された8 つの下流タスクを網羅する。

1. 形態: 土地利用分類（LUC）と道路密度回帰（RDE）。
2. 人口統計: 人口回帰（POP）と年齢分布予測（AGE）。
3. 経済: GDP 回帰と夜間光（NTL）回帰。
4. 環境: PM2.5 回帰と地表面温度（LST）回帰。

このベンチマークは、位置エンコーダ（PE）、POI ベースの手法（Place2Vec、CaLLiPer）、座標エンコーダ（Space2Vec、SatCLIP）、マップエンティティモデル（CityFM、Urban2Vec）、および大規模リモートセンシング基盤モデル（TESSERA、AlphaEarth、AETHER）を含む11 の代表的なモデルを評価する。

3. 主要な結果

著者らは大規模な実証研究を実施し、以下の知見を得た。

• 分割プロトコルの影響: 性能は分割プロトコルに極めて敏感である。ランダム分割は、人口や LST などの高密度ラスタータスクにおいて特に、スコアを一貫して過大評価し、空間分割と比較してモデルの順位を変更する。これは、ランダム分割が未観測地域への転移ではなく、局所的な補間を測定していることを確認するものである。
• モデル性能: 大規模事前学習済み地理空間表現（AETHER、AlphaEarth、TESSERA）は、タスクと都市にわたる最も強力な全体的な転移を達成し、広範な空間カバレッジと大規模な事前学習が異質な都市予測にとって有益であることを示唆している。しかし、CityFM（LST 用）や CaLLiPer（年齢分布用）などの専門的または単純なモデルは、特定のタスクにおいて依然として競争力があり、入力モダリティのみが性能を決定するのではなく、アーキテクチャと整合戦略が重要であることを示している。
• 文脈的変動性: モデルの順位と性能のギャップは、都市やタスクによって大きく変動する。すべての予測問題に対して一貫して容易または困難な都市は存在しない。例えば、ある都市は社会経済予測には容易だが、環境予測には困難である場合がある。これは、単一都市の評価がモデルの頑健性に関する不完全な図を提供することを強調している。
• 線形プローブの安定性: 結果は、非線形 MLP に対して線形下流ヘッドで評価した場合と広範に一貫しており、リモートセンシング基盤モデルの優位性が、単に下流モデルの容量の産物ではないことを示唆している。

4. 意義と主張

本論文は、CityRep を都市基盤モデルの開発に向けた必要なステップとして位置づけている。その意義は以下の点にある。

1. 標準化: 狭く単一の設定での比較を超えて、異質な都市表現を比較するための再現性のある統合インターフェースを提供する。
2. 厳密な評価: 空間構造化分割を強制することで、汎化能力に対するより現実的な評価を提供し、現在の文献で一般的に見られるモデル能力の過大評価を防ぐ。
3. 診断的洞察: このベンチマークは、都市表現の品質が静的ではなく、都市の文脈、タスクドメイン、データ利用可能性に基づいて変動することを明らかにする。これは、すべての都市シナリオに対する単一の「最良」モデルという概念に挑戦するものである。
4. リソースの可用性: 著者らは、公平な比較と将来の研究を促進するために、データセット、評価パイプライン、処理済みベンチマーク、診断ツールを公開する。

著者らは謙虚に、CityRep は評価を前進させるが、利用可能な公的地理空間データの品質によって制約されており、まだマルチモーダルデータの不足がグローバル埋め込みをどのように形成するかを完全に調査していないと指摘している。彼らは、CityRep を直接政策展開のための意思決定システムではなく、汎用的な都市表現の開発を導くための研究ベンチマークとして位置づけている。