Deep Spatially-Regularized and Superpixel-Based Diffusion Learning for Unsupervised Hyperspectral Image Clustering

1. Problemstellung

Die Klassifizierung und Clusterung von hyperspektralen Bildern (HSI) ist eine zentrale Aufgabe in der Fernerkundung. Viele aktuelle Methoden basieren auf überwachtem Lernen und erfordern eine große Anzahl an manuell gelabelten Trainingsdaten, die in der Praxis oft nicht verfügbar sind. Unüberwachte Methoden, wie z. B. reine Band-Subset-Clustering, sind zwar label-frei, erreichen aber oft nicht die gewünschte Genauigkeit.

Ein spezifisches Problem besteht darin, dass bestehende unüberwachte Graph-basierte Diffusionsmethoden (wie der Spatially-Regularized Superpixel-based Diffusion Learning oder S2DL Algorithmus) direkt im hochdimensionalen HSI-Raum arbeiten. Dies führt zu zwei Hauptnachteilen:

1. Rauschen und Redundanz: Die Rohdaten enthalten spektrales Rauschen und hohe spektrale Redundanz, was die Berechnung von Distanzen und die Konstruktion von Diffusionsgraphen verzerrt.
2. Rechenintensität: Die Verarbeitung des vollen spektralen Raums ist rechnerisch sehr aufwendig, was die Laufzeit erhöht.

Zudem haben 3D-CNN-Modelle Schwierigkeiten, langreichweitige spektrale Abhängigkeiten zu erfassen, während Transformer-Modelle dies besser können, aber oft überwacht trainiert werden.

2. Methodik: Der DS2DL-Algorithmus

Die Autoren schlagen DS2DL (Deep Spatially-Regularized Superpixel-based Diffusion Learning) vor, einen unüberwachten Framework, der S2DL durch eine tiefenlernbasierte, komprimierte Darstellung der Daten erweitert. Der Prozess gliedert sich in zwei Hauptphasen:

Phase 1: Unsupervised Masked Autoencoder (UMAE) für Latente Repräsentation

Anstatt die Rohdaten zu verwenden, lernt das Modell zunächst eine „denoisierte" latente Darstellung.

• Architektur: Es wird ein Unsupervised Masked Autoencoder (UMAE) mit einem Vision Transformer (ViT) als Backbone verwendet. Dies ist eine unüberwachte Variante des Masked Autoencoding Spatial-spectral Transformer (MAEST).
• Eingabe & Vorverarbeitung: Das HSI wird in räumliche Patches unterteilt. Für jeden Pixel werden spektral-spatiale Gruppen gebildet, die benachbarte Bänder und räumliche Nachbarn umfassen.
• Maskierungsstrategie: Ein Teil der Positionstokens (spektrale Gruppen) wird zufällig maskiert (Masking Ratio $R_m$). Das Modell muss diese fehlenden Teile rekonstruieren. Dies zwingt das Netzwerk, robuste und signifikante spektrale Merkmale zu lernen und Rauschen zu ignorieren.
• Kompression: Das Encoder-Modell erzeugt eine komprimierte latente Repräsentation $L$ (Dimension $D=48$) für jeden Pixel. Dieser Schritt reduziert die spektrale Redundanz und filtert Rauschen heraus, während räumlicher Kontext und langreichweitige spektrale Korrelationen (durch den Transformer) erhalten bleiben.

Phase 2: Diffusionsbasierte Clusterung im latenten Raum

Die eigentliche Clusterung erfolgt nicht mehr im ursprünglichen HSI-Raum, sondern im gelernten latenten Raum $L$.

1. Superpixel-Segmentierung: Der Entropy Rate Superpixel (ERS) Algorithmus segmentiert das Bild in Superpixel basierend auf den ersten 3 Hauptkomponenten (PCA) der Rohdaten (zur räumlichen Strukturierung).
2. Graph-Konstruktion: Innerhalb der Superpixel werden repräsentative Pixel ausgewählt. Ein räumlich regularisierter kNN-Graph wird jedoch basierend auf den Euklidischen und Diffusionsdistanzen im latenten Raum $L$ konstruiert, nicht im Rohdatenraum.
3. Diffusionsprozess: Ein Markov-Diffusionsprozess wird auf diesem Graphen durchgeführt, um Diffusionsdistanzen zu berechnen, die die intrinsische Geometrie der Datenmannigfaltigkeit besser widerspiegeln.
4. Labeling: Ähnlich wie bei S2DL werden Cluster-Modi (Pixel mit hoher lokaler Dichte und großer Diffusionsdistanz zu anderen Modi) identifiziert. Die Labels werden hierarchisch zugewiesen: Zuerst den Modi, dann ihren Nachbarn (Local Backbone) und schließlich den restlichen Pixeln basierend auf Dichte und Diffusionsdistanz.

3. Schlüsselbeiträge

• Integration von Deep Learning in Diffusions-Clustering: Der erste Ansatz, der einen unüberwachten Masked Autoencoder (UMAE) nutzt, um eine saubere latente Darstellung für nachfolgende Diffusions-Clustering-Algorithmen zu generieren.
• Verbesserte Geometrie: Durch die Arbeit im latenten Raum werden die Diffusionsdistanzen weniger durch Rauschen und spektrale Redundanz verzerrt, was zu einer treueren Abbildung der Datenstruktur führt.
• Effizienz: Die Berechnung der Nachbarschaftsbeziehungen und Diffusionsdistanzen im stark komprimierten latenten Raum ($D=48$) ist deutlich schneller als im ursprünglichen Raum (z. B. 145 oder 176 Bänder).
• Unüberwachte Vorverarbeitung: Der Ansatz erfordert keine gelabelten Trainingsdaten für das Pretraining des Autoencoders, was ihn für reale Anwendungen mit wenigen Labels ideal macht.

4. Experimentelle Ergebnisse

Die Methode wurde auf zwei Standard-Datensätzen getestet: Botswana (14 Klassen, 145 Bänder) und Kennedy Space Center (KSC) (13 Klassen, 176 Bänder). Die Leistung wurde mit dem ursprünglichen S2DL verglichen.

• Genauigkeit (Accuracy):
  • KSC: DS2DL erreichte eine Overall Accuracy (OA) von 0,6008 gegenüber 0,5668 bei S2DL. Besonders auffällig war die Verbesserung der Average Accuracy (AA) um ca. 10 % (von 0,5222 auf 0,6247), was zeigt, dass DS2DL auch unterrepräsentierte Klassen besser klassifiziert.
  • Botswana: OA stieg von 0,60037 auf 0,64101.
• Cluster-Qualität: Metriken wie Purity (Reinheit) und Normalized Mutual Information (NMI) verbesserten sich in beiden Datensätzen signifikant, was auf kohärentere Cluster hindeutet.
• Rechenzeit (Runtime): DS2DL war deutlich schneller.
  • KSC: Von ~2805 s (S2DL) auf 934 s (DS2DL).
  • Botswana: Von ~2782 s (S2DL) auf 947 s (DS2DL).
  • Grund: Die Berechnung der Nachbarn im komprimierten Raum ist rechnerisch viel günstiger.

5. Bedeutung und Ausblick

Die Arbeit demonstriert, dass die Kombination aus tiefen, unüberwachten Repräsentationslernverfahren (Masked Autoencoders) und geometrischen Diffusionsmethoden einen starken Hebel für die unüberwachte HSI-Clusterung darstellt. DS2DL löst das Problem der Rauschanfälligkeit in hochdimensionalen Spektraldaten und beschleunigt den Prozess gleichzeitig erheblich.

Zukünftige Richtungen:
Die Autoren planen, das Modell durch unsupervised contrastive learning zu verfeinern, um die Denoising-Qualität weiter zu steigern. Zudem soll die Interaktion zwischen Hyperparametern der Diffusions- und Kompressionspipeline weiter erforscht sowie eine Erweiterung auf semi-überwachtes und aktives Lernen untersucht werden.

Fazit: DS2DL stellt einen neuen State-of-the-Art für unüberwachte HSI-Clusterung dar, der sowohl in der Genauigkeit als auch in der Effizienz bestehende Methoden übertrifft.