DirPA: Addressing Prior Shift in Imbalanced Few-shot Crop-type Classification

Titel

DirPA: Het Aanpakken van Prior Shift bij Ongelijke Few-shot Classificatie van Gewassoorten

1. Het Probleem

De paper adresseert een fundamenteel probleem in de landbouwmonitoring met behulp van remote sensing (RS) en deep learning: de discrepantie tussen de data-distributie tijdens training en de realiteit in het veld.

• Data-schaarste en onevenwichtigheid: In de echte wereld zijn landbouwdata zelden gebalanceerd. Een klein aantal gewassen (zoals tarwe) domineert, terwijl andere gewassen (zoals peterselie) zeldzaam zijn (langstaartverdeling). Het handmatig labelen van data is echter duur en tijdrovend, wat leidt tot data-schaarste.
• Few-shot Learning (FSL) beperkingen: FSL is een framework ontworpen voor data-schaarste, waarbij modellen worden getraind op een klein aantal voorbeelden per klasse. Traditionele FSL-methoden gebruiken echter vaak kunstmatig gebalanceerde trainingssets (waarbij elke klasse evenveel voorbeelden heeft).
• Prior Shift: Deze kunstmatige balans creëert een "prior shift". De a priori kansverdeling tijdens training ($p_{train}(y)$) verschilt sterk van de werkelijke verdeling tijdens toepassing ($p_{test}(y)$). Modellen die getraind zijn op gebalanceerde data leren een sterke bias naar evenwichtige klassen, wat leidt tot slechte generalisatie en generalisatieverlies in realistische, onbalans scenario's. Bestaande oplossingen proberen dit vaak pas op het moment van inferentie te corrigeren, wat suboptimaal is.

2. Methodologie: DirPA (Dirichlet Prior Augmentation)

De auteurs breiden hun eerdere werk uit met DirPA, een methode die de prior shift proactief aanpakt tijdens het trainingsproces in plaats van na afloop.

• Kernconcept: In plaats van te vertrouwen op een vaste prior, wordt er tijdens elke trainingsiteratie een pseudo-prior ($\tilde{\pi}$) gesampleerd uit een symmetrische Dirichlet-verdeling: $\tilde{\pi} \sim \text{Dir}(\alpha \cdot \mathbf{1})$.
• Parameter $\alpha$: Deze parameter controleert de mate van onbalans. Een kleine $\alpha$ (< 1) genereert sterk onbalans verdelingen, terwijl een grote $\alpha$ (> 1) dichter bij een uniforme verdeling ligt.
• Logit-aanpassing: De gesamplede prior wordt gebruikt om de logits (de ruwe uitkomsten van het model) aan te passen voordat ze door de Softmax-functie gaan:
  $$z'_i \leftarrow z_i + \tau \log(\tilde{\pi}^{(s)})$$
  Hierbij is $\tau$ een schalingsfactor.
• Effect: Door het model bloot te stellen aan een breed scala aan willekeurige prior-verdelingen tijdens het trainen, leert het model een prior-agnostische representatie. Het model wordt hierdoor robuuster en kan beter generaliseren naar onbekende, onbalans testsets zonder dat er extra aanpassingen nodig zijn tijdens de inferentie.
• Architectuur: De experimenten gebruiken een Transformer-encoder (met sinusvormige positiële encoding voor tijdsreeksen) gekoppeld aan een lineaire classificatielaag. Er wordt getraind op Sentinel-2 data.

3. Dataset en Experimenteel Opzet

• Dataset: De studie maakt gebruik van EuroCropsML 2.0, een uitgebreide dataset met parcel-level data van Sentinel-2 voor acht verschillende landen in de EU: Oostenrijk, België, Estland, Letland, Litouwen, Portugal, Slowakije, Slovenië en Spanje.
• Pre-training vs. Fine-tuning:
  • Pre-training: Gebeurt op een grote, gebalanceerde dataset van Oostenrijk en Duitsland om een rijke feature-extractor te trainen.
  • Fine-tuning: De modellen worden vervolgens getest op de andere landen met verschillende "shot"-instellingen (1, 5, 10, 20, 100 voorbeelden per klasse).
• Realistische splits: In tegenstelling tot eerdere studies, zorgen de auteurs voor een realistische splitsing waarbij de trainingsset alle klassen bevat (geen zero-shot scenario's), maar de testset de werkelijke langstaartverdeling reflecteert.
• Metingen: De prestaties worden gemeten met Cohen's Kappa (voor betrouwbaarheid gecorrigeerd voor toeval), Overall Accuracy en Macro F1-score. Er wordt gekeken naar zowel fijne gewasclassificatie (HCAT niveau 6) als bredere landbedekking (HCAT niveau 3).

4. Belangrijkste Resultaten

De resultaten tonen aan dat DirPA consistent betere prestaties levert dan standaard baselines (Cross-Entropy en Focal Loss), vooral in scenario's met weinig data en hoge onbalans.

• Verbetering bij Low-Shot: In scenario's met weinig voorbeelden (bijv. 1-shot of 5-shot) levert DirPA aanzienlijke winsten op in Cohen's Kappa (tot wel 45% verbetering in Estland bij 1-shot). Dit komt doordat het model minder "oververzekerd" raakt in slechte features en onzekerheid beter kan modelleren.
• Correlatie met Onbalans: De prestatiewinst is sterk gecorreleerd met de Gini-coëfficiënt van de dataset. Landen met extreme onbalans (zoals België, Slovenië en Estland met een Gini > 0.9) profiteren het meest van DirPA. Landen met minder onbalans (zoals Spanje en Litouwen) tonen minder winst, maar geen verlies.
• Hiërarchische Robuustheid: Zelfs als het model faalt in het onderscheiden van zeer specifieke gewassoorten (fijne classificatie), verbetert DirPA de prestaties op het niveau van de ouderklasse (bijv. "graan" in plaats van "winter tarwe"). Dit betekent dat fouten vaak beperkt blijven tot verwante subklassen binnen dezelfde categorie, wat de praktische bruikbaarheid verhoogt.
• Stabiliteit: DirPA stabiliseert het trainingsproces en voorkomt dat het model domineert door de meerderheidsklasse, wat resulteert in een betere balans tussen precisie en recall voor zeldzame klassen.

5. Bijdragen en Significantie

De belangrijkste bijdragen van dit werk zijn:

1. Geografische Uitbreiding: De methode is voor het eerst gevalideerd op een schaal van acht verschillende EU-landen met diverse landbouwpraktijken en klimatologische omstandigheden, wat de generaliseerbaarheid bewijst.
2. Proactieve Aanpak van Prior Shift: In plaats van inferentie-correcties, lost DirPA het probleem op tijdens het trainen door dynamische prior-augmentatie. Dit elimineert de noodzaak voor kennis van de testverdeling op het moment van toepassing.
3. Relatie tussen Onbalans en Winst: De studie onthult een sterke correlatie: hoe onbalanser de dataset, hoe groter het voordeel van DirPA. Dit bevestigt dat de methode specifiek effectief is voor de "langstaart" problemen in de landbouw.
4. Hiërarchische Stabilisatie: Het werk toont aan dat DirPA niet alleen klassen specifieker maakt, maar ook de hiërarchische consistentie verbetert, wat cruciaal is voor betrouwbare landbouwmonitoring wanneer data schaars is.

Conclusie:
DirPA is een krachtige en robuuste techniek voor few-shot learning in de landbouw. Door het trainen met dynamisch gesampleerde Dirichlet-priors, overwint het model de beperkingen van kunstmatig gebalanceerde datasets en presteert het aanzienlijk beter in realistische, onbalans scenario's. Dit maakt het een essentiële stap vooruit voor schaalbare en betrouwbare landbouwmonitoringssystemen in Europa.