Technische Samenvatting: StruMPL

Probleemformulering

Het artikel behandelt de uitdaging om bovengrondse biomassa (AGB) en gerelateerde structurele variabelen (kaphoogte, bedekking, stamdichtheid, houtdichtheid) van bossen te schatten op basis van Aarde-observatie (EO) data. Het probleem wordt gekenmerkt door drie gekoppelde, structureel incompatibele beperkingen die standaard multi-task learning (MTL) en semi-supervised methoden niet gezamenlijk aanpakken:

1. Heterogene Disjuncte Partiële Supervisie: Trainingslabels komen uit twee verschillende bronnen met niet-overlappende variabele sets. Ruimtegebaseerde lidar (bijv. GEDI) levert structurele metrics (hoogte, bedekking) op miljoenen locaties, maar geen biomassa. Bodemopnames leveren biomassa en enkele structurele metrics op duizenden locaties, maar geen kapstructuur op de lidar-schaal. Geen enkel trainingsvoorbeeld bevat labels voor alle doelvariabelen.
2. Missing Not At Random (MNAR) Labels: Locaties van bodemopnames zijn geen willekeurige steekproef van de bospopulatie; surveyors vermijden ontoegankelijk terrein en gedegradeerde bestanddelen. Bijgevolg is de waargenomen AGB vertekend naar intermediaire waarden, wat leidt tot dat standaardmodellen systematisch biomassa onderschatten in dichte bossen.
3. Inter-task Fysische Beperkingen: Doelvariabelen zijn gekoppeld door bekende allometrische wetten (bijv. $AGB \approx g(H, C, SD, WD; \phi)$). Omdat de trainingsdata echter nooit alle variabelen gelijktijdig observeert (vanwege de disjuncte bronnen), kunnen deze parameters $\phi$ niet direct uit de data alleen worden gefit.

De auteurs formaliseren dit als een multi-task dichte regressieprobleem onder MNAR-labels met inter-task fysische beperkingen, en stellen StruMPL (Structured Multi-task Physics-constrained Learning) voor als een geïntegreerde oplossing.

Methodologie

StruMPL hanteert een single-objective framework met een gedeelde encoder en gespecialiseerde heads om de drie probleemcomponenten gelijktijdig aan te pakken.

Architectuur

• Gedeelde Encoder: Een ResUNet met kanaal- en ruimtelijke attentie verwerkt multi-kanaal EO-inputs (bijv. SAR, optisch, coördinaten) om een feature map $z$ te produceren.
• Regressie Heads: $K$ onafhankelijke convolutie-heads voorspellen elke doelvariabele $\hat{y}_k$ in z-score ruimte.
• Imputatie Heads: $K$ onafhankelijke heads voorspellen een imputatie-basislijn $\hat{m}_k$ (de verwachte uitkomst gegeven covariaten) voor elke pixel.
• Propensiteitshead: Een head schat de per-pixel, per-variabele observatiekans $\hat{\pi}_k$ (de propensiteitscore).
• Fysica Module: Een leerbare, differentieerbare allometrische vergelijking $g_\phi$ die de fysische relatie tussen structurele voorspellingen en biomassa-voorspellingen op elke pixel evalueert.

Verliesfunctie

Het totale doel $L_{total}$ combineert vijf termen:
$$L_{total} = L_{sup} + \lambda_{phys} L_{phys} + \lambda_{cons} L_{cons} + \lambda_{bias} L_{bias} + \lambda_{imp} L_{imp}$$

1. Supervised Loss ($L_{sup}$) met AIPW:
   In plaats van standaard gemaskerde MSE, gebruikt het artikel de Augmented Inverse Probability Weighting (AIPW) schatter. De pseudo-uitkomst $\tilde{y}$ wordt gedefinieerd als:
   $$\tilde{y} = \mu + R \frac{1}{\hat{\pi}}(y - \mu)$$
   waarbij $\mu$ de imputatieschatting is en $R$ het observatiemasker.

   • Kritiek Ontwerp: Er worden twee stop-gradients toegepast: één op de propensiteit $\hat{\pi}$ en één op de imputatie $\mu$.
     • Het loskoppelen van $\hat{\pi}$ voorkomt dat de encoder propensiteiten opblaast tot 1,0 om het verlies te minimaliseren (propensiteit-collaps).
     • Het loskoppelen van $\mu$ voorkomt dat de imputatie-heads instorten op de regressie-heads, waardoor de variantiereductie-eigenschap van AIPW ten opzichte van standaard IPW behouden blijft.
   • Deze loss corrigeert voor MNAR-bias door waargenomen residuals opnieuw te wegen, terwijl het imputatiemodel supervisie biedt op niet-gelabelde pixels.

2. Fysische Consistentie Loss ($L_{phys}$):
   Deze term dwingt de allometrische relatie $g_\phi$ af op de eigen voorspellingen van het model op elke pixel (gelabeld of niet-gelabeld). Het fungeert als een semi-supervised signaal, waardoor structurele voorspellingen (van GEDI-gesuperviseerde pixels) consistent moeten zijn met biomassa-voorspellingen (van plot-gesuperviseerde pixels) via de geleerde allometrische coëfficiënten. De parameters $\phi$ worden gezamenlijk met het netwerk geleerd.

3. Auxiliary Losses:

   • $L_{bias}$: Binary cross-entropy training van de propensiteitshead tegen het observatiemasker.
   • $L_{cons}$: Consistentie loss onder input augmentatie (FixMatch-stijl) om de encoder te regulariseren.
   • $L_{imp}$: Gemaskerde MSE training van de imputatie-heads uitsluitend op gelabelde pixels.

Trainingsstrategie

De auteurs hanteren source-balanced batching, waarbij elke batch wordt samengesteld als een 50/50 mix van GEDI- en plot-voorbeelden. Dit zorgt ervoor dat de encoder gebalanceerde gradiënten ontvangt van beide labelstructuren en stelt de fysica loss in staat om te opereren op batches die zowel structurele als biomassa-labels bevatten.

Belangrijkste Bijdragen

1. Probleemformalisatie: Het artikel definieert een specifieke klasse van multi-task dichte regressieproblemen die heterogene disjuncte partiële supervisie, MNAR-labels en inter-task fysische beperkingen omvatten.
2. Gezamenlijk Propensiteits- & AIPW Ontwerp: Het introduceert een gezamenlijk propensiteitsmodel voor ruimtelijke MNAR-correctie in dichte regressie. Cruciaal is dat het analytisch en empirisch aantoont dat twee stop-gradients (op propensiteit en imputatie) individueel noodzakelijk zijn voor stabiele gezamenlijke training. Zonder deze stort het framework in tot een vertekende MSE of een instabiele IPW.
3. Leerbaar Fysica Module: Een differentieerbaar beperkingsmodule evalueert bekende biofysische relaties op modelvoorspellingen op elke pixel. In tegenstelling tot standaard Physics-Informed Neural Networks (PINNs) met vaste parameters, leert StruMPL de allometrische coëfficiënten gezamenlijk, wat aanpassing mogelijk maakt aan specifieke biomen en schaling op satellietniveau.
4. Empirische Validatie: Het framework wordt gevalideerd op twee ecologisch verschillende biomen (Mediterrane bossen in Spanje en droge tropische/savannebossen in Afrika) met identieke architectuur en trainingsrecepten, wat portabiliteit demonstreert over variabele beschikbaarheid en bron-ongelijkheid.

Resultaten

Het framework werd geëvalueerd op de AGB-doelvariabele (Mg/ha) over twee locaties:

• Prestatie: Volledige StruMPL behaalde de laagste RMSE en bias op beide locaties in vergelijking met single-output baselines, ablatievarianten en de dichtstbijzijnde gepubliceerde methode.
  • Spanje (SNFI): RMSE 41,9 ± 0,5 Mg/ha (vs. 43,1 voor de sterkste single-output baseline).
  • Afrika (SEOSAW): RMSE 20,7 ± 0,6 Mg/ha (vs. 22,5 voor single-output baseline).
• Ablatie-inzichten:
  • MNAR Correctie: Gestratificeerde analyse op het Spaanse dataset toonde aan dat de AIPW-correctie specifiek de bias in de hoge-AGB staart (het ondervertegenwoordigde regime) met ongeveer 54% verminderde in vergelijking met naïeve MSE.
  • Noodzaak van Stop-Gradients: Het verwijderen van een van de stop-gradients leidde tot "propensiteit-collaps" (gemiddelde propensiteit $\to$ 1,0) of "imputatie-collaps" (imputatie $\to$ regressie), wat de prestaties aanzienlijk verslechterde.
  • Fysica Module: De ecologisch gemotiveerde allometrische vorm presteerde beter dan zowel een eenvoudige machtwet als een geleerde MLP, wat suggereert dat de inductieve bias van de allometrische vorm waardevoller is dan pure expressiviteit.
• Geleerde Coëfficiënten: De geleerde allometrische exponenten waren klein, wat aangeeft dat op satellietniveau biomassa grotendeels wordt verklaard door een additieve basislijn en een multiplicatieve schaal, waarbij structurele variabelen fungeren als kleine correcties. De coëfficiënten varieerden kwalitatief tussen biomen (bijv. een hogere exponent voor kapbedekking in Spanje versus Afrika), wat overeenkomt met ecologische intuïtie.

Betekenis en Claims

Het artikel beweert dat StruMPL succesvol een "perfecte storm" van uitdagingen in EO-gebaseerde bosmonitoring aanpakt: disjuncte databronnen, ernstige klasse-ongelijkheid en niet-willekeurige steekproefbias.

• Biasreductie: De primaire betekenis is de reductie van systematische bias in regimes met hoge biomassa, die cruciaal zijn voor de schatting van koolstofvoorraden maar doorgaans ondervertegenwoordigd zijn in velddata.
• Data-efficiëntie: Door gebruik te maken van de fysische beperkingen en het enorme volume aan structurele data (GEDI) om de biomassa-voorspelling te superviseren, maakt het framework effectief gebruik van de schaarse biomassa-labels.
• Generaliseerbaarheid: De auteurs suggereren dat de formulering van toepassing is op elk domein met structureel vergelijkbare eigenschappen (bijv. hydrologie, schatting van batterijtoestand, multi-modale medische beeldvorming) waarbij doelvariabelen gekoppeld zijn door bekende wetten maar worden waargenomen via disjuncte, vertekende instrumenten.

Het artikel blijft bescheiden wat theoretische garanties betreft, en erkent dat hoewel AIPW dubbele robuustheid biedt onder benaderende onafhankelijkheid, de gedeelde encoder formele cross-fitting garanties verhindert. De empirische resultaten bevestigen echter dat het voorgestelde architectuur effectief bias reduceert en de nauwkeurigheid verbetert in real-world, ecologisch verschillende settings.