Above-ground Biomass Estimation with Geospatial Foundation Models

技術要約：地理空間基盤モデルを用いた地上部バイオマス推定

問題提起
衛星画像からの地上部バイオマス（AGB）の正確な推定は、地球規模の炭素蓄積量モニタリングおよび気候政策において極めて重要である。しかし、高解像度かつグローバルで定期的に更新されるAGBマップの作成は、依然として困難な回帰タスクである。現在のアプローチには主に3つの制限事項が存在する。(1) 衛星信号が密な林冠で飽和し、高バイオマスの過小評価を招く持続的なバイアス。(2) リファレンスラベル（例：GEDIフットプリント）の不均衡な分布（例：北緯約51.6°未満に限定されており、ボリアル森林が除外されている）。(3) 10m解像度のペタバイト級の地球観測（EO）データを処理するための膨大な計算コスト。地理空間基盤モデル（GFM）は、ラベルのないEOデータから汎用的な表現を学習するためのパラダイムとして台頭しているが、既存のベンチマークの多くは分類やセグメンテーションに焦点を当てているため、バイオマス推定のような定量的回帰タスクにおけるその有用性はほとんど探索されていない。

手法
著者らは、多様なバイオームを網羅する機械学習対応のベンチマークであるAGBDデータセット（GEDI L4Aバイオマス値とマルチソース衛星データ（Sentinel-2、ALOS-2 PALSAR-2、および補助変数）を組み合わせた約1600万サンプル）を用い、AGB推定におけるGFMの包括的なベンチマークを提示する。

本研究では、2つの異なるGFM展開モードを区別し、それらを完全に教師あり学習による最先端（SOTA）のベースラインと比較評価している。

1. 凍結エンコーダ（重み配布型）: PANGAEAフレームワーク内で、重みとして配布された11種類のGFM（例：CROMA、Prithvi、SSL4EO-MoCo）を評価した。これらのモデルは凍結エンコーダとして実行され、その上にタスク固有のデコーダ（UPerNet）を学習させた。決定的な点として、これらのモデルは入力特徴量のサブセット（主にSentinel-2の光学バンド）に限定されており、フルAGBDデータセットで利用可能なLバンドSARや補助変数へのアクセスが欠如している。
2. 事前計算済み埋め込み（即時利用可能型）: 2つの埋め込み製品、AlphaEarth Foundations (AEF) および TESSERA を評価した。これらは、マルチモーダルかつマルチテンポラルなEOデータから派生した、ピクセルごとの事前計算済み表現である。著者らは、線形プローブ（LP）、多層パーセプトロン（MLP）、およびSOTAの完全畳み込みネットワーク（fcn_film）を用いてこれらの埋め込みをテストした。

評価には以下が含まれる：

• 標準ベンチマーク: AGBDデータセットにおけるRMSEの比較。
• 汎化テスト: ゼロショットでの地域間（特定の地域を除いて全地域で学習）および年次間（2019年で学習、2020年でテスト）のシナリオにおける性能評価。
• 運用検証: 独立したAGBrefデータセットおよび運用中のESA CCI Biomass製品との比較。

主な貢献

1. 包括的なベンチマーク: 著者らは、利用可能な中で最大かつ最も地理的に多様なML対応バイオマスデータセットであるAGBDデータセットを用いて、11種類の重み配布型GFMと2つの埋め込み製品をベンチマークした。
2. 比較分析: 凍結されたGFMエンコーダ、事前計算済み埋め込み、および生のAGBD特徴量を用いて学習された完全教師ありSOTAモデルとの直接的な比較を確立した。
3. 汎化実験: 地理的（大陸間）および時間的（年次間）な汎化能力をテストするために、特定の実験を設計・分析した。
4. 運用検証: 独立したリファレンスデータセット（AGBref）に対して検証を行い、広く使用されているESA CCIバイオマス・マップと比較した。

結果

• 凍結エンコーダの性能不足: 11種類の重み配布型GFMを凍結エンコーダとして実行した場合、生のAGBD特徴量を用いて学習された完全教師ありSOTAモデルを大幅に下回った。最良のGFM（SSL4EO-MoCo）はRMSE 60.56 Mg/haを達成したが、これは教師ありベースラインの53.73 Mg/haと比較して劣っている。この差は、モデルがLバンドSARや補助データを取り込むことができないこと、および単一の日付または特定のバンド入力に制限されていることに起因する。
• 事前計算済み埋め込みの優位性: 対照的に、事前計算済みの埋め込み製品は非常に効果的であることが証明された。AEF埋め込みのみで学習されたMLP（52.22 Mg/ha）は、生のAGBD特徴量で学習された教師ありベースラインを上回った。最高の結果は、選択された生の物理的特徴（土地被覆、傾斜、斜面方位、座標）で拡張されたAEF埋め込みを用いて学習されたfcn_filmモデルによって達成され、RMSE 50.79 Mg/haに達した。
• 汎化: AEFベースのモデルは、優れた地理的および時間的汎化能力を示した。ゼロショットの地域間転移（例：アフリカおよび南米への転移）において、AEF+は生の物理的特徴と比較してRMSEを17〜25%減少させた。しかし、南アジアにおいては、ゼロショット設定においてAEF単体では性能低下が見られたが、これはAEF+構成（生の物理的特徴を保持する）によって緩和された。時間的には、生のスペクトル特徴量が著しく劣化する年次間のギャップにおいても、AEF埋め込みは安定していた。
• 運用の同等性: 独立したAGBrefデータセットに対して評価した際、11の地域のみで学習されたAEF埋め込みモデルは、グローバルに分散したリファレンスデータを使用しているESA CCI製品に対し、R²およびRMSEの観点からほぼ同等の性能を達成した。

意義と主張
本論文は、環境モニタリングのための基盤モデルの約束は、モデルが重みとして配布されユーザーが凍結エンコーダとして実行する場合よりも、豊かでマルチモーダルかつマルチテンポラルなデータで学習されたモデルが、アクセシブルな事前計算済み埋め込みレイヤーとして配布される場合に最も実現されると主張している。

著者らは以下の通り論じている：

• 入力の豊かさが不可欠である: AEFおよびTESSERAの優れた性能は、単なる事前学習の規模ではなく、埋め込みの中に凝縮された入力コンテキスト（マルチモーダル、マルチテンポラル）の豊かさに由来する。重み配布型のGFMは、正確なバイオマス推定に必要な特定のセンサー（例：LバンドSAR）を取り込むためのアーキテクチャ上の柔軟性に欠けることが多い。
• 効率性とアクセシビリティ: 事前計算済みの埋め込みは、GPU集約的な特徴抽出を不要にし、単純なMLPのような軽量なモデルが、生のデータで学習された複雑な完全教師ありネットワークを上回ることを可能にする。
• 堅牢性: 埋め込みは、空間および時間の経過に対してより良く汎化する、転送可能な生態学的表現を提供する。ただし、生の物理的特徴を保持すること（AEF+）は、生態学的に異なる地域におけるアウトオブディストリビューション（分布外）の失敗に対するセーフガードとなる。

本研究は、凍結されたGFMの特徴量は非常に有益であり得るものの、その有用性は現在の入力制限とエンジニアリング上の摩擦によって制限されていると結論付けている。最も効果的な道筋は、重み配布型モデルを多様な入力や解像度に対応できるほど柔軟にするか、あるいは表現を事前計算済みの解析準備が整った埋め込みレイヤーとして提供し続けることである。