Technische Samenvatting: SupCon-Mamba voor Few-Shot Hyperspectrale Doeldetectie

1. Probleemstelling

Hyperspectrale doeldetectie (HTD) beoogt specifieke doelen te identificeren en te lokaliseren binnen complexe achtergronden met behulp van vooraf bekende spectrale informatie. Hoewel hyperspectrale beelden een hoge spectrale resolutie bieden voor materiaalidentificatie, staat HTD in de praktijk voor twee kritieke uitdagingen:

1. Schaarsheid van gelabelde data: Het verkrijgen van gelabelde monsters is moeilijk en kostbaar, wat leidt tot een "few-shot" scenario waarin modellen die getraind zijn met volledig gesuperviseerd deep learning vaak kampen met een slechte generalisatie.
2. Beperkingen van bestaande contrastieve leerprocessen: Huidige few-shot HTD-methoden vertrouwen vaak op ongesuperviseerd contrastief leren. Deze methoden construeren positieve paren vanuit spectrale augmentaties van enkele pixels en behandelen alle andere pixels in een batch als negatieve monsters. Deze aanpak bestempelt vaak pixels van dezelfde categorie onterecht als negatief (false negatives), wat de feature-ruimte verstoort en de grens tussen doel en achtergrond vertroebelt.
3. Inefficiënte modellering: Traditionele CNN's hebben moeite met globale afhankelijkheden in lange spectrale sequenties, terwijl Transformers lijden onder kwadratische computationele complexiteit naarmate de sequentielengte toeneemt, wat hen inefficiënt maakt voor het gelijktijdig modelleren van fijne lokale en multi-schaal globale spectrale kenmerken.

2. Methodologie: SupCon-Mamba

De auteurs stellen SupCon-Mamba voor, een framework dat een Pyramid Mamba-architectuur integreert met Supervised Contrastive Learning (SupCon) om de bovengenoemde problemen aan te pakken. De workflow bestaat uit een trainingsfase en een inferentiefase.

2.1 Spectrale Nabijheidscodering en Data-augmentatie

Om de schaarste van gelabelde data te verzachten en spectrale ruis te onderdrukken, gebruikt de methode een mechanisme voor lokale contextcodering:

• Nabijheidscodering (Neighborhood Encoding): Voor een centrale pixel wordt een ruimtelijk venster ($w \times w$) geëxtraheerd. De cosinusgelijkenis wordt berekend tussen het spectrum van de centrale pixel en zijn buren. Deze gelijkenissen worden genormaliseerd via Softmax om weegfactoren te genereren, die worden gebruikt om een gewogen som van buur-spectra te creëren. Dit produceert een "nabijheidsgecodeerde vector" die de spectrale vector van de centrale pixel aanvult.
• Gaussische Ruis-augmentatie: Om overfitting in few-shot scenario's te voorkomen, wordt Gaussische ruis toegevoegd aan zowel de centrale vector als de gecodeerde vector. De geaugmenteerde vectoren worden afgeknipt naar het bereik $[0, 1]$ en samengevoegd (geconcateneerd) om de input van het model te vormen.

2.2 Pyramid Mamba Feature Extractie Netwerk

De kern van de backbone is een encoder-decoder Pyramid Mamba netwerk, ontworpen om multi-schaal spectrale afhankelijkheden te vangen met lineaire computationele complexiteit:

• Spectrale Gegroepeerde Convolutie: Voordat de sequentiemodellering plaatsvindt, wordt 1D gegroepeerde convolutie toegepast op het input-spectrum om expliciet lokale spectrale correlaties tussen aangrenzende banden te modelleren.
• Pyramidale Structuur: Het netwerk maakt gebruik van een downsampling-tak (top-down) en een upsampling-tak (bottom-up).
  • Downsampling: De spectrale sequentie ondergaat 4 niveaus van progressieve downsampling. Op elk niveau worden de features verwerkt door depthwise convolutie en het Selective State Space Model (SSM) (Mamba). Dit stelt het model in staat om afhankelijkheden te vangen van fijnmazige lokale details tot globale spectrale contouren met lineaire complexiteit.
  • Upsampling & Fusie: Features worden progressief geupsampled en gefuseerd met de overeenkomstige SSM-outputs uit de downsampling-tak via cross-scale residuele verbindingen.
  • Gated Fusion: Een gating-mechanisme filtert en fuseert adaptief de multi-schaal features voordat de uiteindelijke output wordt gegenereerd.

2.3 Supervised Contrastive Learning (SupCon)

In tegen tegenstelling tot ongesuperviseerde methoden, maakt SupCon-Mamba gebruik van de beschikbare labelinformatie (doel versus achtergrond) om monsterparen te definiëren:

• Positieve Paren: Monsters die tot dezelfde klasse behoren (bijv. doel-doel of achtergrond-achtergrond) worden behandeld als positieve paren.
• Negatieve Paren: Monsters uit verschillende klassen worden behand als negatieve paren.
• Verliesfunctie (Loss Function): Het model wordt geoptimaliseerd met behulp van de SupCon-loss, die de gelijkenis van positieve paren maximaliseert en de gelijkenis van negatieve paren minimaliseert in de feature-ruimte. Dit elimineert fundamenteel het probleem van de 'false negative' dat inherent is aan ongesuperviseerd contrastief leren, wat intra-klasse aggregatie en inter-klasse separatie bevordert.

3. Belangrijkste Bijdragen

Het artikel benadrukt drie primaire innovaties:

1. Constructie van Hoogwaardige Positieve Monsters: Er wordt een strategie voorgesteld die lokale contextcodering (via cosinusgelijkenis) combineert met Gaussische ruis-augmentatie. Dit onderdrukt single-pixel ruis, levert voldoende positieve monsters voor supervised learning en verhoogt de robuustheid tegen spectrale fluctuaties.
2. Pyramid Mamba Architectuur: Een encoder-decoder netwerk is ontworpen om lange spectrale sequenties te modelleren met lineaire complexiteit. Het vangt effectief zowel fijne lokale spectrale kenmerken als globale spectrale profielen door middel van multi-schaal downsampling en upsampling.
3. Supervised Contrastive Optimalisatie: Door de integratie van de SupCon-loss maakt de methode gebruik van beperkte labelinformatie om false negatives te elimineren, wat de discriminatiekracht en generalisatie in few-shot scenario's aanzienlijk verbetert.

4. Experimentele Resultaten

De methode werd geëvalueerd op vier publieke datasets (Sandiego I, Sandiego II, Los Angeles I, Los Angeles II) en één zelfbouw dataset van de grond. De trainingsopstelling gebruikte slechts 10 paren gelabelde monsters (10 doelpixels en 10 achtergrondpixels).

• Prestatie-metrieken: De voorgestelde methode behaalde een gemiddelde AUC van 0,9984 over de datasets.
• Vergelijkende Analyse:
  • Visuele Resultaten: Vergeleken met traditionele methoden (CEM, OSP, ACE) en deep learning baselines (DSC, CTTD, UEML, TSTTD), vertoonde SupCon-Mamba een superieure nadruk op doelen en onderdrukking van de achtergrond. Het slaagde erin om laag-contrastrijke doelen te detecteren met vrijwel nul valse alarmen in niet-schaduwgebieden.
  • Kwantitatieve Resultaten: De methode behaalde de hoogste AUC ($P_{fd}$) op alle vijf de datasets. Hoewel sommige concurrenten lagere foutpercentages ($P_f$) lieten zien op specifieke datasets, leden zij vaak aan gemiste detecties ($P_d$). SupCon-Mamba behield een superieur evenwicht tussen detectievermogen en achtergrondonderdrukking.
• Ablatie-studies:
  • Pyramid Lagen: De prestaties piekten bij 4 pyramidale lagen; minder lagen leidden tot een gebrek aan modelleringscapaciteit, terwijl meer lagen leidden tot overfitting en gradiëntproblemen.
  • Venstergrootte: Een $9 \times 9$ coderingsvenster werd geïdentificeerd als optimaal voor publieke datasets, waarbij een balans werd gevonden tussen contextfusie en achtergrondinterferentie.
  • Verliesfunctie: De SupCon-loss presteerde beter dan Cross-Entropy, SimCLR en InfoNCE, wat de noodzaak van supervised contrastief leren voor few-shot HTD bevestigt.

5. Betekenis en Claims

Het artikel stelt dat SupCon-Mamba een efficiënte en praktische oplossing biedt voor few-shot hyperspectrale doeldetectie. Door het false negative-probleem in contrastief leren en de computationele inefficiëntie bij het modelleren van lange spectrale sequenties aan te pakken, bereikt de methode state-of-the-art prestaties met extreem beperkte gelabelde data. De auteurs stellen dat deze aanpak een robuuste technische oplossing biedt voor informatie-extractie in complexe remote sensing scenario's, zoals militaire verkenning en milieumonitoring, waar gelabelde data schaars is. De methode toont aan dat een hoge detectie-accuratesse haalbaar is met slechts 10 paren gelabelde monsters, waarmee het bestaande mainstream benaderingen aanzienlijk overtreft.