A Benchmark Study of Segmentation Models and Adaptation Strategies for Landslide Detection from Satellite Imagery

Titel: Een Benchmarkstudie van Segmentatiemodellen en Adaptatiestrategieën voor Aardverschuivingdetectie uit Satellietbeelden

Auteurs: Md Kowsher, Weiwei Zhan, Chen Chen (Universiteit van Centraal-Florida)

---

1. Probleemstelling

Aardverschuivingen zijn vernietigende natuurrampen die leiden tot levensverlies en infrastructuurschade. Snelle en nauwkeurige detectie is cruciaal voor rampenbestrijding en risicobeoordeling. Hoewel er steeds meer hoogwaardige satellietbeelden beschikbaar zijn, blijft de effectiviteit van moderne segmentatiearchitecturen en fijne afstemmingsstrategieën (fine-tuning) voor dit specifieke probleem onvoldoende onderzocht.

Er bestaan drie fundamentele kennisgaten:

1. Het is onduidelijk hoe algemene visuele foundation-modellen (zoals SAM) zich verhouden tot gespecialiseerde CNN- en transformer-architecturen bij aardverschuivingdetectie.
2. Volledige fine-tuning is rekenkundig duur en geheugenintensief; het is onbekend of parameter-efficiënte fine-tuning (PEFT) methoden zoals LoRA en AdaLoRA vergelijkbare prestaties kunnen leveren met minder kosten.
3. De generalisatie van modellen onder distributieverandering (distribution shift) tussen validatie- en testsets is onderbelicht.

2. Methodologie

Dataset:
De studie maakt gebruik van de Globally Distributed Coseismic Landslide Dataset (GDCLD). Deze bevat hoogresolutie satellietbeelden met pixel-precieze annotaties van aardverschuivingen veroorzaakt door aardbevingen.

• Verdeling: 11.162 trainingsbeelden, 4.459 validatiebeelden, 1.091 testbeelden.
• Klasse-ongelijkheid: Er is een sterke onbalans (ongeveer 77% achtergrond vs. 23% aardverschuiving), wat het gebruik van gewogen verliesfuncties vereist.

Modelarchitecturen:
De auteurs vergelijken drie categorieën modellen:

1. CNN-gebaseerde modellen: U-Net, ResU-Net, DeepLabV3, HRNet.
2. Transformer-gebaseerde modellen: UPerNet, SwinU-Net, SegFormer (varianten B4 en B5).
3. Foundation Modellen: Segment Anything Model (SAM) met ViT-Base encoder.

Adaptatiestrategieën:

• Volledige Fine-tuning: Alle parameters van het model worden bijgewerkt.
• Parameter-Efficiënte Fine-tuning (PEFT):
  • LoRA (Low-Rank Adaptation): Voegt trainbare laag-rang decompositiematrices toe aan de transformer-lagen terwijl de oorspronkelijke gewichten bevroren blijven.
  • AdaLoRA: Een uitbreiding van LoRA die de parameterbudget dynamisch toewijst op basis van het belang van de singular values, waardoor minder belangrijke componenten tijdens training worden verwijderd.

Training en Evaluatie:

• Verliesfuncties: Gewogen Cross-Entropy (voor CNN/Transformer) en Binary Cross-Entropy met logits (voor SAM) om de klasse-ongelijkheid aan te pakken.
• Data Augmentatie: Kleurjittering (helderheid, contrast, verzadiging, tint), maar geen geometrische transformaties (rotatie/spiegeling) om de natuurlijke oriëntatie van aardverschuivingen te behouden.
• Metingen: Precision, Recall, F1-score en Mean Intersection over Union (mIoU).

3. Belangrijkste Resultaten

Prestaties op Validatie- en Testsets:

• Transformer-modellen presteren het beste: De SegFormer-architecturen (vooral B5) behalen de hoogste mIoU-scores. Op de validatieset bereikte SegFormer-B5 een mIoU van 82,95% met een zeer hoge recall (94,38%).
• Foundation Modellen (SAM): SAM toont een sterke recall (het vindt veel aardverschuivingen), maar een lagere precision (veel vals-positieven/over-segmentatie). De mIoU was lager dan die van gespecialiseerde transformers (73,58% op validatie).
• Generalisatiekloof: Er is een significante prestatiedaling op de testset (die een distributieverandering vertegenwoordigt). Bijvoorbeeld, SegFormer-B5 daalde van ~83% mIoU op validatie naar 61,27% op de testset. Dit benadrukt de uitdaging van generalisatie in real-world scenario's.

Parameter-Efficiënte Fine-tuning (PEFT):

• Efficiëntie: LoRA en AdaLoRA reduceerden het aantal trainbare parameters met ongeveer 95% ten opzichte van volledige fine-tuning.
• Prestaties: De PEFT-varianten behaalden vergelijkbare of zelfs licht betere resultaten dan volledig gefinetunte modellen.
  • Voorbeeld: SegFormer-B5 + LoRA behaalde 83,16% mIoU op de validatieset (tegenover 82,95% voor volledig fine-tuning).
  • Op de testset presteerde SegFormer-B5 + AdaLoRA het beste met 61,76% mIoU.

Trade-off Precision-Recall:

• SAM neigt tot over-segmentatie (hoge recall, lage precision).
• SegFormer-modellen bieden een beter evenwicht tussen precisie en recall.

4. Belangrijkste Bijdragen

1. Systematische Benchmark: Eerste uitgebreide vergelijking van CNN's, Transformers en Foundation Modellen specifiek voor aardverschuivingdetectie onder consistente protocollen.
2. Validatie van PEFT: Bewijs dat parameter-efficiënte methoden (LoRA/AdaLoRA) de trainingskosten drastisch verlagen zonder in te boeten aan nauwkeurigheid, wat ze zeer geschikt maakt voor toepassingen met beperkte rekenkracht.
3. Analyse van Generalisatie: Kwantificering van de prestatiedaling door distributieverandering, wat wijst op het risico van overfitting op specifieke datasets en de noodzaak van robuustere generalisatiestrategieën.
4. Modelkeuze-inzicht: De studie toont aan dat grotere transformer-varianten (B5 vs B4) consistent beter presteren en dat foundation modellen (SAM) nuttig kunnen zijn voor recall-gerichte taken, maar gespecialiseerde transformers superieur zijn voor gebalanceerde segmentatie.

5. Betekenis en Toekomstperspectief

De studie biedt empirisch bewijs dat helpt bij het maken van gefundeerde keuzes voor modelselectie en adaptatiestrategieën in de aardwetenschappen en remote sensing. De bevindingen suggereren dat:

• Scalabiliteit: PEFT-methoden het mogelijk maken om grote foundation-modellen efficiënt aan te passen voor niche-toepassingen zoals aardverschuivingen.
• Real-world toepassing: De grote kloof tussen validatie- en testprestaties onderstreept dat toekomstig werk zich moet richten op het verbeteren van generalisatie over verschillende geografische regio's en aardverschuivingstypen, in plaats van alleen het maximaliseren van scores op een specifieke dataset.

Kortom, dit paper positioneert transformer-architecturen als de nieuwe standaard voor aardverschuivingdetectie en valideert PEFT als een cruciale strategie voor kostenefficiënte implementatie.