Needles in the Landscape: Semi-Supervised Pseudolabeling for Archaeological Site Discovery under Label Scarcity

Technische Samenvatting: Naalden in het Landschap: Semi-supervised Pseudolabeling voor de Ontdekking van Archeologische Sites onder Label-Schaarste

Probleemstelling
Archeologische Predictieve Modellering (APM) staat voor een fundamentele uitdaging: archeologische sites zijn uiterst zeldzaam (<0,004% van de opnamegebieden) en schaars verspreid over heterogene landschappen. Traditioneel supervised learning faalt omdat het overgrote deel van het landschap niet-gelabeld is in plaats van bevestigd negatief; het behandelen van niet-gelabelde gebieden als negatieven introduceert ernstige bias. Dit vormt een Positive-Unlabeled (PU) leerprobleem. Bestaande statistische methoden (bijv. LAMAP) vertrouwen op handmatig ontworpen kenmerken en sterke aannames over de afwezigheid van sites, terwijl standaard deep learning-approaches ofwel instorten (het voorspellen van sites overal wanneer alleen getraind op positieven) ofwel catastrofaal falen (het omkeren van waarschijnlijkheidsrangschriften wanneer getraind op onzekere negatieven). De kernmoeilijkheid ligt in het leren van schaarse positieve labels zonder de afwezigheid van sites in niet-gelabelde gebieden aan te nemen.

Methodologie
De auteurs stellen Asymmetrische Dual Pseudolabeling (DPL) voor, een end-to-end deep learning framework voor semantische segmentatie dat label-schaarste en PU-onzekerheid aanpakt zonder handmatig ontworpen feature engineering.

• Architectuur: Het model maakt gebruik van een UNet-architectuur met een gedeelde encoder en twee onafhankelijke decoders. Deze dual-branch structuur maakt de generatie van diverse voorspellingen mogelijk die nodig zijn voor pseudolabeling, terwijl het computationele efficiëntie behoudt.
• Asymmetrische Pseudolabeling Strategie: De kerninnovatie is een asymmetrisch drempelmechanisme dat tijdens het trainen wordt toegepast:
  • Positieve Pseudolabels: Vereisen hoge zekerheid (conservatief). Een gebied wordt gelabeld als een positieve site alleen als beide decoder-branches met hoge waarschijnlijkheid overeenkomen (minimale voorspelling > $\tau_{pos}$). Deze labels worden zacht geschaald met behulp van een temperatuurparameter.
  • Negatieve Pseudolabels: Vereisen slechts zwak bewijs (permissief). Een gebied wordt gelabeld als negatief (niet-site) als minimaal één branch sceptisch is (minimale voorspelling < $\tau_{neg}$). Deze labels worden hard-coded naar 0.
  • Dynamische Planning: Drempels evolueren tijdens het trainen via een sigmoid ramp-up functie, beginnend met permissieve negatieve drempels en wordend selectiever naarmate de tijd vordert.
• Verliesfunctie: Het totale verlies combineert vier termen:
  1. Supervised Loss ($L_{SL\_Pos}$): Alleen berekend op bevestigde positieve pixels om te voorkomen dat er wordt geleerd van onzekere achtergrond.
  2. Pseudolabel Loss ($L_{pseudo}$): Berekend op de gegenereerde pseudolabels met behulp van Focal Loss om zich te richten op onzekere pixels.
  3. Consistentie Regularisatie ($L_{cons}$): Dwingt overeenstemming af tussen de twee decoder-branches.
  4. Entropie Regularisatie ($L_{ent}$): Toegepast op pixels waar branches het oneens zijn om onzekerheid te minimaliseren.
• Trainingsstrategie: Het model hanteert hybride sampling (10% patches gecentreerd op bekende sites, 90% willekeurig) en wordt getraind op multi-band geospatiale beelden (DEM-afgeleide kenmerken en historische infrastructuurkaarten) zonder handmatige feature engineering.

Belangrijkste Bijdragen

1. Formulering: Stelt APM voor als een semi-supervised semantische segmentatietaken onder extreme label-schaarste en PU-onzekerheid.
2. Algoritme: Introduceert een asymmetrische pseudolabeling strategie die archeologisch risico weerspiegelt: conservatief voor vals-positieven (vereist consensus) en permissief voor vals-negatieven (vereist slechts bezwaar), waardoor leren mogelijk wordt zonder aan te nemen dat de achtergrond echt negatief is.
3. Empirische Grenzen: Stelt vast dat standaard supervised learning (SL) faalt onder negatieve onzekerheid (het omkeren van rangschikkingen), en training alleen op positieven (SL_Pos) instort tot het voorspellen van overal. DPL opereert effectief tussen deze empirische grenzen.
4. Validatie: Biedt rigoureuze evaluatie op twee datasets met complementaire strategieën: Sagalassos (onafhankelijke veldsurvey-validatie) en Cyprus (pure PU setting met ruimtelijke k-fold validatie).
5. Reproduceerbaarheid: publiceert alle code, preprocessing-scripts en de Cyprus-dataset; Sagalassos-data is eigendom maar code wordt gedeeld.

Experimentele Resultaten

• Sagalassos Dataset (Turkije): Geëvalueerd tegen een onafhankelijke veldsurvey (Survey 2) met gebruik van Survey 1 voor training.
  • Prestatie: DPL presteerde beter dan de state-of-the-art LAMAP-baseline met 12,5% in F1 en 29,3% in Recall over zeven historische periodes.
  • Vergelijking: Hoewel DPL uitblonk in ontdekkingsmetrieken (F1, Recall), behield LAMAP een superieur waarschijnlijkheidsrangschikking (PR-AUC en ROC-AUC), toegeschreven aan zijn expliciete probabilistische modellering.
  • Baselines: Standaard SL miste 85% van de sites; SL_Pos stortte in tot 100% recall zonder discriminatie.
• Cyprus Dataset (Pure PU Setting): Geëvalueerd via uniforme site-level en ruimtelijke k-fold cross-validatie zonder bevestigde negatieven.
  • Prestatie: DPL opereerde nominaal tussen de empirische grenzen (SL en SL_Pos) maar vertoonde hoge variantie en trainingsinstabiliteit. Het faalde in het onderscheiden van individuele sites van brede kustlandschapsgradiënten.
  • LAMAP Vergelijking: LAMAP presteerde aanzienlijk beter dan alle deep learning methoden in deze setting (ROC-AUC 0,765 versus DPL's ~0,51), wat suggereert dat wanneer alleen grove terreingradiënten beschikbaar zijn, feature-similariteitsmethoden robuuster zijn dan pseudolabel-bootstrapping.
  • Analyse: Feature-separabiliteitsanalyse onthulde dat DPL's succes op Sagalassos leunde op ruimtelijk specifieke historische infrastructuurkenmerken (bijv. afstand tot wegen), die afwezig waren in de Cyprus-dataset.

Betekenis en Claims
Het artikel claimt dat DPL een hanteerbare weg biedt voor het leren van onvolledige, positief bevooroordeelde labels in ruimtelijk gestructureerde domeinen (relevant voor ecologie, epidemiologie en remote sensing) zonder bevestigde afwezigheden of schatting van de klassenvoorkennis te vereisen.

De auteurs benadrukken dat DPL het meest effectief is wanneer ruimtelijk specifieke hulpkenmerken (bijv. historische infrastructuurkaarten) fijne discriminatie bieden. In landschappen waar alleen brede geografische gradiënten bestaan (zoals in de Cyprus-case study), worstelt de methode om stabiele pseudolabels te bootstrappen, en blijven traditionele feature-similariteitsbenaderingen zoals LAMAP geschikter. Het werk schetst de grens van toepasbaarheid voor pseudolabeling in archeologische ontdekking: het is een krachtig hulpmiddel voor site-ontdekking wanneer specifieke discriminerende signalen aanwezig zijn, maar het kan de behoefte aan gerichte veldsurvey of domein-gekalibreerde modellen in data-schaarse, kenmerk-arme omgevingen niet vervangen.