Needles in the Landscape: Semi-Supervised Pseudolabeling for Archaeological Site Discovery under Label Scarcity

Résumé technique : Des aiguilles dans le paysage : l'étiquetage pseudo-supervisé semi-supervisé pour la découverte de sites archéologiques en contexte de rareté des étiquettes

Énoncé du problème
La modélisation prédictive archéologique (APM) fait face à un défi fondamental : les sites archéologiques sont extrêmement rares (<0,004 % des zones de prospection) et faiblement distribués dans des paysages hétérogènes. L'apprentissage supervisé traditionnel échoue car la grande majorité du paysage est non étiquetée plutôt que confirmée comme négative ; traiter les zones non étiquetées comme des négatifs introduit un biais sévère. Cela constitue un problème d'apprentissage Positif-Non étiqueté (PU). Les méthodes statistiques existantes (par exemple, LAMAP) reposent sur des caractéristiques conçues à la main et sur de fortes hypothèses concernant l'absence de sites, tandis que les approches d'apprentissage profond standard s'effondrent soit (en prédisant des sites partout lors d'un entraînement uniquement sur des positifs), soit échouent de manière catastrophique (en inversant les classements de probabilité lors d'un entraînement sur des négatifs incertains). La difficulté centrale réside dans l'apprentissage à partir d'étiquettes positives clairsemées sans supposer l'absence de sites dans les régions non étiquetées.

Méthodologie
Les auteurs proposent l'Étiquetage Pseudo Asymétrique Dual (DPL), un cadre d'apprentissage profond de bout en bout pour la segmentation sémantique qui répond à la rareté des étiquettes et à l'incertitude PU sans ingénierie de caractéristiques conçue à la main.

• Architecture : Le modèle utilise une architecture UNet avec un encodeur partagé et deux décodeurs indépendants. Cette structure à double branche permet la génération de prédictions diversifiées nécessaires à l'étiquetage pseudo, tout en maintenant une efficacité computationnelle.
• Stratégie d'étiquetage pseudo asymétrique : L'innovation centrale est un mécanisme de seuillage asymétrique appliqué pendant l'entraînement :
  • Étiquettes pseudo-positives : Exigent une haute confiance (conservateur). Une région est étiquetée comme un site positif uniquement si les deux branches de décodeur s'accordent avec une forte probabilité (prédiction minimale > $\tau_{pos}$). Ces étiquettes sont mises à l'échelle de manière douce à l'aide d'un paramètre de température.
  • Étiquettes pseudo-négatives : Exigent seulement une preuve faible (permissif). Une région est étiquetée comme négative (non-site) si au moins une branche est sceptique (prédiction minimale < $\tau_{neg}$). Ces étiquettes sont codées en dur à 0.
  • Planification dynamique : Les seuils évoluent pendant l'entraînement via une fonction de montée en rampe sigmoïde, commençant par des seuils négatifs permissifs et devenant plus sélectifs au fil du temps.
• Fonction de perte : La perte totale combine quatre termes :
  1. Perte supervisée ($L_{SL\_Pos}$) : Calculée uniquement sur les pixels positifs confirmés pour éviter d'apprendre à partir d'un arrière-plan incertain.
  2. Perte d'étiquettes pseudo ($L_{pseudo}$) : Calculée sur les étiquettes pseudo générées en utilisant la perte focale pour se concentrer sur les pixels incertains.
  3. Régularisation de cohérence ($L_{cons}$) : Impose un accord entre les deux branches de décodeur.
  4. Régularisation d'entropie ($L_{ent}$) : Appliquée aux pixels où les branches ne s'accordent pas afin de minimiser l'incertitude.
• Stratégie d'entraînement : Le modèle emploie un échantillonnage hybride (10 % de patches centrés sur des sites connus, 90 % aléatoires) et est entraîné sur des images géospatiales multi-bandes (caractéristiques dérivées du MNT et cartes d'infrastructures historiques) sans ingénierie manuelle de caractéristiques.

Contributions clés

1. Formulation : Présente l'APM comme une tâche de segmentation sémantique semi-supervisée dans des conditions de rareté extrême des étiquettes et d'incertitude PU.
2. Algorithme : Introduit une stratégie d'étiquetage pseudo asymétrique qui reflète le risque archéologique : conservateur pour les faux positifs (exigeant un consensus) et permissif pour les faux négatifs (exigeant seulement un dissentiment), permettant l'apprentissage sans supposer que l'arrière-plan est véritablement négatif.
3. Bornes empiriques : Établit que l'apprentissage supervisé standard (SL) échoue sous l'incertitude négative (en inversant les classements), et que l'entraînement uniquement sur des positifs (SL_Pos) s'effondre pour prédire partout. Le DPL opère efficacement entre ces bornes empiriques.
4. Validation : Fournit une évaluation rigoureuse sur deux jeux de données avec des stratégies complémentaires : Sagalassos (validation par prospection de terrain indépendante) et Chypre (configuration PU pure avec validation croisée spatiale k-fold).
5. Reproductibilité : Publie tout le code, les scripts de prétraitement et le jeu de données de Chypre ; les données de Sagalassos sont propriétaires mais le code est partagé.

Résultats expérimentaux

• Jeu de données Sagalassos (Turquie) : Évalué par rapport à une prospection de terrain indépendante (Prospection 2) en utilisant la Prospection 1 pour l'entraînement.
  • Performance : Le DPL a surpassé la référence LAMAP de l'état de l'art de 12,5 % en F1 et de 29,3 % en Rappel sur sept périodes historiques.
  • Comparaison : Alors que le DPL excellait dans les métriques de découverte (F1, Rappel), LAMAP maintenait un classement de probabilité supérieur (PR-AUC et ROC-AUC), attribué à sa modélisation probabiliste explicite.
  • Références : Le SL standard manquait 85 % des sites ; le SL_Pos s'effondrait à 100 % de rappel sans discrimination.
• Jeu de données Chypre (Configuration PU pure) : Évalué via une validation croisée uniforme au niveau des sites et spatiale k-fold sans négatifs confirmés.
  • Performance : Le DPL opérait nominalement entre les bornes empiriques (SL et SL_Pos) mais présentait une forte variance et une instabilité d'entraînement. Il n'a pas réussi à distinguer les sites individuels des larges gradients de terrain côtier.
  • Comparaison avec LAMAP : LAMAP a largement surpassé toutes les méthodes d'apprentissage profond dans cette configuration (ROC-AUC 0,765 contre ~0,51 pour le DPL), suggérant que lorsque seuls des gradients de terrain grossiers sont disponibles, les méthodes de similarité de caractéristiques sont plus robustes que l'amorçage par étiquettes pseudo.
  • Analyse : L'analyse de séparabilité des caractéristiques a révélé que le succès du DPL sur Sagalassos reposait sur des caractéristiques d'infrastructures historiques spécifiques à l'espace (par exemple, la distance aux routes), qui étaient absentes dans le jeu de données de Chypre.

Signification et affirmations
L'article affirme que le DPL offre une voie praticable pour apprendre à partir d'étiquettes incomplètes et biaisées positivement dans des domaines spatialement structurés (pertinents pour l'écologie, l'épidémiologie et la télédétection) sans nécessiter d'absences confirmées ni d'estimation des priors de classe.

Les auteurs soulignent que le DPL est plus efficace lorsque des caractéristiques auxiliaires spécifiques à l'espace (par exemple, des cartes d'infrastructures historiques) fournissent une discrimination fine. Dans les paysages où seuls de larges gradients géographiques existent (comme dans l'étude de cas de Chypre), la méthode peine à amorcer des étiquettes pseudo stables, et les approches traditionnelles de similarité de caractéristiques comme LAMAP restent plus appropriées. Le travail délimite la frontière d'applicabilité de l'étiquetage pseudo dans la découverte archéologique : c'est un outil puissant pour la découverte de sites lorsque des signaux discriminants spécifiques sont présents, mais il ne peut remplacer le besoin d'une prospection de terrain ciblée ou de modèles calibrés sur le domaine dans des environnements pauvres en données et en caractéristiques.