Above-ground Biomass Estimation with Geospatial Foundation Models

Technische Samenvatting: Schatting van Bovengrondse Biomassa met Geospatiale Foundation Models

Probleemstelling
Nauwkeurige schatting van de bovengrondse biomassa (Above-Ground Biomass, AGB) uit satellietbeelden is cruciaal voor de wereldwijde monitoring van koolstofvoorraden en klimaatbeleid. Het genereren van hoogwaardige, wereldwijde en regelmatig bijgewerkte AGB-kaarten blijft echter een uitdagende regressieopgave. Huidige benaderingen kampen met drie primaire beperkingen: (1) persistente biases waarbij satelliet-signalen verzadigen boven dichte kronendaken, wat leidt tot onderschatting van hoge biomassa; (2) een ongelijkmatige verdeling van referentielabels (bijv. GEDI-footprints zijn beperkt tot breedtegraden onder ~51,6°, waardoor boreale bossen worden uitgesloten); en (3) prohibitieve computationele kosten voor het verwerken van petabytes aan Earth Observation (EO) data op 10m resolutie. Hoewel Geospatial Foundation Models (GFM's) zijn opgekomen als een paradigma voor het leren van algemene representaties uit ongelabelde EO-data, blijft hun nut voor kwantitatieve regressietaken zoals biomassa-schatting grotendeels onverkend, aangezien de meeste bestaande benchmarks zich richten op classificatie en segmentatie.

Methodologie
De auteurs presenteren een uitgebreide benchmark van GFM's voor wereldwijde AGB-schatting met behulp van de AGBD-dataset, een machine learning-klare benchmark die diverse biomen beslaat met ~16 miljoen monsters die GEDI L4A-biomassawaarden koppelen aan multi-source satellietdata (Sentinel-2, ALOS-2 PALSAR-2 en aanvullende kenmerken).

De studie onderscheidt twee verschillende modi van GFM-implementatie en evalueert deze tegen een volledig gesuperviseerde state-of-the-art (SOTA) baseline:

1. Frozen Encoders (Weight-Distributed): 11 GFM's gedistribueerd als modelgewichten (bijv. CROMA, Prithvi, SSL4EO-MoCo) werden geëvalueerd binnen het PANGAEA-framework. Deze modellen werden gedraaid als bevroren encoders, waarbij alleen een taakspecifieke decoder (UPerNet) bovenop werd getraind. Cruciaal is dat deze modellen beperkt waren tot de subset van inputkenmerken die zij ondersteunen (voornamelijk Sentinel-2 optische banden), waardoor ze geen toegang hadden tot de L-band SAR en aanvullende variabelen die beschikbaar zijn in de volledige AGBD-dataset.
2. Pre-computed Embeddings (Ready-to-Use): Twee embedding-producten, AlphaEarth Foundations (AEF) en TESSERA, werden geëvalueerd. Dit zijn per pixel berekende, vooraf berekende representaties afgeleid van multi-modale, multi-temporele EO-data. De auteurs testten deze embeddings met behulp van Linear Probes (LP), Multi-Layer Perceptrons (MLP) en de SOTA volledig convolutionele netwerk (fcn_film).

De evaluatie omvatte:

• Standaard Benchmarking: Vergelijking van RMSE op de AGBD-dataset.
• Generalisatietests: Beoordeling van prestaties in zero-shot cross-regio (trainen op alle regio's behalve de doelregio) en cross-jaar (trainen op 2019, testen op 2020) scenario's.
• Operationele Validatie: Vergelijking van resultaten met de onafhankelijke AGBref-dataset en het operationele ESA CCI Biomass-product.

Belangrijkste Bijdragen

1. Uitgebreide Benchmark: De auteurs hebben 11 gewichts-gedistribueerde GFM's en twee embedding-producten gebenchmarkt op de AGBD-dataset, de grootste en meest geografisch diverse ML-klare biomassa-dataset die beschikbaar is.
2. Vergelijkende Analyse: Zij stelden een directe vergelijking vast tussen bevroren GFM-encoders, vooraf berekende embeddings en een volledig gesuperviseerd SOTA-model getraind op ruwe AGBD-kenmerken.
3. Generalisatie-experimenten: De studie ontwierp en analyseerde specifieke experimenten om de geografische (cross-continent) en temporele (cross-jaar) generalisatiecapaciteiten te testen.
4. Operationele Validatie: Resultaten werden gevalideerd tegen een onafhankelijke referentiedataset (AGBref) en vergeleken met de breed gebruikte ESA CCI biomassa-kaarten.

Resultaten

• Frozen Encoders Presteren Ondermaats: Wanneer ze als bevroren encoders werden uitgevoerd, presteerden de 11 gewichts-gedistribueerde GFM's aanzienlijk slechter dan het volledig gesuperviseerde SOTA-model getraind op ruwe AGBD-kenmerken. De beste GFM (SSL4EO-MoCo) bereikte een RMSE van 60,56 Mg/ha, vergeleken met 53,73 Mg/ha voor de gesuperviseerde baseline. Dit gat wordt toegeschreven aan het onvermogen van de modellen om L-band SAR en aanvullende data te verwerken, en hun beperking tot single-date of specifieke band-inputs.
• Pre-computed Embeddings Excelleren: In contrast hiermee bleken vooraf berekende embedding-producten zeer effectief. Een MLP getraind uitsluitend op AEF-embeddings (52,22 Mg/ha) presteerde beter dan de gesuperviseerde baseline getraind op ruwe AGBD-kenmerken. Het beste resultaat over het algemeen werd bereikt door het fcn_film-model getraind op AEF-embeddings, aangevuld met geselecteerde ruwe kenmerken (landbedekking, helling, aspect, coördinaten), wat een RMSE van 50,79 Mg/ha behaalde.
• Generalisatie: AEF-gebaseerde modellen vertoonden superieure geografische en temporele generalisatie. In zero-shot cross-regio transfers (bijv. naar Afrika en Zuid-Amerika) verminderde AEF de RMSE met 17–25% vergeleken met ruwe kenmerken. Echter, in Zuid-Azië leed AEF alleen aan een prestatieverlies in zero-shot settings, wat werd gemitigeerd door de AEF+-configuratie (het behouden van ruwe kenmerken). Temporeel bleven AEF-embeddings stabiel over jaargaps waar ruwe spectrale kenmerken significant verslechterden.
• Operationele Pariteit: Wanneer geëvalueerd tegen de onafhankelijke AGBref-dataset, bereikte het op AEF-embeddings getrainde model (getraind op slechts 11 regio's) bijna pariteit met het wereldwijd gekalibreerde ESA CCI-product wat betreft R² en RMSE, ondanks het gebruik van wereldwijd gedistribueerde referentiedata door dat laatste.

Betekenis en Claims
Het artikel claimt dat de belofte van foundation models voor kwantitatieve milieumonitoring het best wordt gerealiseerd wanneer een model getraind op rijke, multi-modale, multi-temporele data wordt gedistribueerd als een toegankelijke, vooraf berekende embedding-laag, in plaats van als gewichten voor gebruikers om als bevroren encoders uit te voeren.

De auteurs stellen dat:

• Input-rijkdom Cruciaal is: De superieure prestaties van AEF en TESSERA komen niet alleen voort uit de schaal van de pre-training, maar uit de rijkdom van de inputcontext (multi-modaal, multi-temporeel) die in de embeddings is gedestilleerd. Gewichts-gedistribueerde GFM's missen vaak de architecturale flexibiliteit om de specifieke sensoren (bijv. L-band SAR) te verwerken die nodig zijn voor nauwkeurige biomassa-schatting.
• Efficiëntie en Toegankelijkheid: Vooraf berekende embeddings elimineren de noodzaak voor GPU-intensieve feature extractie, waardoor lichte modellen (zoals een eenvoudige MLP) complexe, volledig gesuperviseerde netwerken getraind op ruwe data kunnen overtreffen.
• Robuustheid: Embeddings bieden overdraagbare ecologische representaties die beter generaliseren over ruimte en tijd, hoewel het behouden van ruwe kenmerken (AEF+) een veiligheid biedt tegen out-of-distribution falen in ecologisch onderscheidende regio's.

De studie concludeert dat hoewel bevroren GFM-kenmerken zeer informatief kunnen zijn, hun nut momenteel beperkt wordt door inputbeperkingen en engineering-fricties. De meest effectieve weg voorwaarts is ofwel het maken van gewichts-gedistribueerde modellen flexibeler genoeg om diverse inputs en resoluties te verwerken, of het blijven serveren van representaties als vooraf berekende, analyse-klare embedding-lagen.