Needles in the Landscape: Semi-Supervised Pseudolabeling for Archaeological Site Discovery under Label Scarcity

Sintesi Tecnica: Aghi nel Paesaggio: Pseudolabeling Semi-Supervisionato per la Scoperta di Siti Archeologici in Condizioni di Scarsità di Etichette

Enunciato del Problema
La Modellazione Predittiva Archeologica (APM) affronta una sfida fondamentale: i siti archeologici sono estremamente rari (<0,004% delle aree di rilevamento) e distribuiti in modo sparso su paesaggi eterogenei. L'apprendimento supervisionato tradizionale fallisce perché la stragrande maggioranza del paesaggio è non etichettata piuttosto che confermata come negativa; trattare le aree non etichettate come negative introduce un grave bias. Questo costituisce un problema di apprendimento Positivo-Non Etichettato (PU). I metodi statistici esistenti (ad es. LAMAP) si basano su caratteristiche create manualmente e su forti assunzioni riguardo all'assenza di siti, mentre gli approcci standard di deep learning collassano (prevedendo siti ovunque quando addestrati solo su positivi) o falliscono catastroficamente (invertendo le classifiche di probabilità quando addestrati su negativi incerti). La difficoltà principale risiede nell'apprendere da etichette positive sparse senza assumere l'assenza di siti nelle regioni non etichettate.

Metodologia
Gli autori propongono la Pseudolabeling Duale Asimmetrica (DPL), un framework di deep learning end-to-end per la segmentazione semantica che affronta la scarsità di etichette e l'incertezza PU senza ingegneria delle caratteristiche manuale.

• Architettura: Il modello utilizza un'architettura UNet con un encoder condiviso e due decoder indipendenti. Questa struttura a due rami consente la generazione di previsioni diverse necessarie per lo pseudolabeling, mantenendo al contempo l'efficienza computazionale.
• Strategia di Pseudolabeling Asimmetrica: L'innovazione principale è un meccanismo di thresholding asimmetrico applicato durante l'addestramento:
  • Pseudolabel Positivi: Richiedono alta confidenza (conservativi). Una regione è etichettata come sito positivo solo se entrambe le branche del decoder concordano con alta probabilità (previsione minima > $\tau_{pos}$). Queste etichette sono scalate in modo soft utilizzando un parametro di temperatura.
  • Pseudolabel Negativi: Richiedono solo prove deboli (permissivi). Una regione è etichettata come negativa (non sito) se almeno una branca è scettica (previsione minima < $\tau_{neg}$). Queste etichette sono codificate rigidamente a 0.
  • Pianificazione Dinamica: Le soglie evolvono durante l'addestramento tramite una funzione di ramp-up sigmoide, iniziando con soglie negative permissive e diventando più selettive nel tempo.
• Funzione di Perdita: La perdita totale combina quattro termini:
  1. Perdita Supervisionata ($L_{SL\_Pos}$): Calcolata solo sui pixel positivi confermati per evitare l'apprendimento dallo sfondo incerto.
  2. Perdita da Pseudolabel ($L_{pseudo}$): Calcolata sugli pseudolabel generati utilizzando la Focal Loss per concentrarsi sui pixel incerti.
  3. Regolarizzazione di Coerenza ($L_{cons}$): Impone l'accordo tra le due branche del decoder.
  4. Regolarizzazione dell'Entropia ($L_{ent}$): Applicata ai pixel in cui le branche non concordano per minimizzare l'incertezza.
• Strategia di Addestramento: Il modello impiega un campionamento ibrido (10% di patch centrate su siti noti, 90% casuali) ed è addestrato su immagini geospaziali multibanda (caratteristiche derivate da DEM e mappe di infrastrutture storiche) senza ingegneria manuale delle caratteristiche.

Contributi Chiave

1. Formulazione: Inquadra l'APM come un compito di segmentazione semantica semi-supervisionata in condizioni di estrema scarsità di etichette e incertezza PU.
2. Algoritmo: Introduce una strategia di pseudolabeling asimmetrica che rispecchia il rischio archeologico: conservativa per i falsi positivi (richiedendo consenso) e permissiva per i falsi negativi (richiedendo solo dissenso), consentendo l'apprendimento senza assumere che lo sfondo sia realmente negativo.
3. Limiti Empirici: Stabilisce che l'apprendimento supervisionato standard (SL) fallisce sotto incertezza negativa (invertendo le classifiche) e l'addestramento solo su positivi (SL_Pos) collassa prevedendo ovunque. La DPL opera efficacemente tra questi limiti empirici.
4. Validazione: Fornisce una valutazione rigorosa su due dataset con strategie complementari: Sagalassos (validazione tramite rilevamento di campo indipendente) e Cipro (setting PU puro con validazione incrociata k-fold spaziale).
5. Riproducibilità: Rilascia tutto il codice, gli script di pre-elaborazione e il dataset di Cipro; i dati di Sagalassos sono proprietari ma il codice è condiviso.

Risultati Sperimentali

• Dataset Sagalassos (Turchia): Valutato contro un rilevamento di campo indipendente (Rilevamento 2) utilizzando il Rilevamento 1 per l'addestramento.
  • Prestazioni: La DPL ha superato la linea di base LAMAP all'avanguardia del 12,5% in F1 e del 29,3% in Recall su sette periodi storici.
  • Confronto: Mentre la DPL ha eccellito nelle metriche di scoperta (F1, Recall), LAMAP ha mantenuto una classificazione di probabilità superiore (PR-AUC e ROC-AUC), attribuita alla sua modellazione probabilistica esplicita.
  • Linee di Base: Lo SL standard ha mancato l'85% dei siti; lo SL_Pos è collassato al 100% di recall senza discriminazione.
• Dataset Cipro (Setting PU Puro): Valutato tramite validazione incrociata uniforme a livello di sito e spaziale k-fold senza negativi confermati.
  • Prestazioni: La DPL ha operato nominalmente tra i limiti empirici (SL e SL_Pos) ma ha mostrato alta varianza e instabilità nell'addestramento. Non è riuscita a distinguere i singoli siti dai ampi gradienti del terreno costiero.
  • Confronto con LAMAP: LAMAP ha superato sostanzialmente tutti i metodi di deep learning in questo setting (ROC-AUC 0,765 contro ~0,51 della DPL), suggerendo che quando sono disponibili solo gradienti di terreno grossolani, i metodi basati sulla similarità delle caratteristiche sono più robusti del bootstrap degli pseudolabel.
  • Analisi: L'analisi della separabilità delle caratteristiche ha rivelato che il successo della DPL su Sagalassos si basava su caratteristiche di infrastrutture storiche specifiche dello spazio (ad es. distanza dalle strade), assenti nel dataset di Cipro.

Significato e Affermazioni
Il paper afferma che la DPL offre un percorso praticabile per l'apprendimento da etichette incomplete e positivamente distorte in domini strutturalmente spaziali (rilevanti per ecologia, epidemiologia e telerilevamento) senza richiedere assenze confermate o stime delle prior di classe.

Gli autori sottolineano che la DPL è più efficace quando caratteristiche ausiliarie specifiche dello spazio (ad es. mappe di infrastrutture storiche) forniscono una discriminazione fine-granulare. Nei paesaggi dove esistono solo ampi gradienti geografici (come nel caso studio di Cipro), il metodo fatica a generare pseudolabel stabili, e gli approcci tradizionali basati sulla similarità delle caratteristiche come LAMAP rimangono più appropriati. Il lavoro delinea il limite di applicabilità dello pseudolabeling nella scoperta archeologica: è uno strumento potente per la scoperta di siti quando sono presenti segnali discriminativi specifici, ma non può sostituire la necessità di rilevamenti di campo mirati o modelli calibrati sul dominio in ambienti poveri di dati e caratteristiche.