Multi-Domain Supervised Contrastive Learning for UAV Radio-Frequency Open-Set Recognition

Die vorgestellte Arbeit schlägt ein Multi-Domain-Supervised-Contrastive-Learning-Framework namens Open-RFNet vor, das durch die Fusion von ResNet- und Transformer-Encoder-Features sowie einen verbesserten IG-OpenMax-Algorithmus eine hochpräzise Open-Set-Erkennung von nichtkooperativen UAVs in 5G-Advanced-Netzen ermöglicht.

Das Wesentliche

🚁 Das unsichtbare „Fingerabdruck"-System für Drohnen

Stellen Sie sich vor, Sie stehen auf einem belebten Platz. Überall fliegen Drohnen herum. Manche sind harmlose Hobby-Drohnen, die Fotos machen, andere sind Spione oder Schmuggler, die niemand sehen will. Das Problem: Die meisten dieser Drohnen sind nicht kooperativ. Sie melden sich nicht, sie haben keine Ausweise und sie versuchen oft, sich zu verstecken.

Die Wissenschaftler aus diesem Papier haben eine neue Methode entwickelt, um diese „schwarzen Schafe" zu erkennen – und zwar nicht durch Kameras (die bei Nebel oder nachts versagen), sondern durch ihre Funkwellen.

Hier ist die Geschichte, wie sie das gemacht haben:

1. Der Hörtest: Jeder hat eine eigene Stimme 🎤

Jede Drohne sendet Funkwellen aus, um mit ihrer Fernsteuerung zu kommunizieren. Das ist wie eine Stimme.

• Das Problem: Diese „Stimmen" sind sehr verrauscht. Der Wind bläst, die Drohne wackelt, und die Signale springen hin und her (wie ein Funkgerät, das statisch ist).
• Die alte Methode: Früher haben Computer versucht, diese Signale wie ein einfaches Foto zu betrachten. Das funktionierte gut, wenn nur ein paar bekannte Drohnenarten da waren. Aber wenn eine neue, unbekannte Drohne auftauchte, dachte der Computer: „Das muss eine der bekannten sein!" und machte einen Fehler.

2. Die neue Lösung: Ein zweiköpfiges Detektiv-Team 🕵️‍♂️🕵️‍♀️

Die Autoren (Ning Gao und sein Team) haben ein neues System namens Open-RFNet gebaut. Stellen Sie sich das wie ein Detektiv-Team vor, das zwei verschiedene Sinne kombiniert, um einen Täter zu überführen:

• Der erste Detektiv (ResNet): Der Textur-Experte.
  Er schaut sich das „Muster" des Signals an. Wie sieht die Wellenform aus? Ist sie rau oder glatt? Er ignoriert dabei, wo das Signal genau ist, sondern schaut nur auf die Struktur. Das hilft ihm, auch bei starkem Rauschen (wie bei einem lauten Wind) die Drohne zu erkennen.

  • Analogie: Er erkennt einen Dieb daran, wie er läuft, nicht daran, wo er gerade steht.

• Der zweite Detektiv (Transformer): Der Positions-Experte.
  Dieser schaut sich an, wann und wo bestimmte Signalmuster auftreten. Er versteht den zeitlichen Ablauf und die Frequenzlage.

  • Analogie: Er weiß, dass ein Dieb immer zur gleichen Uhrzeit an der gleichen Ecke auftaucht.

Der Clou: Das Team kombiniert beide Meinungen. Wenn der eine sagt „Das sieht aus wie Drohne A" und der andere sagt „Aber das Timing passt zu Drohne B", dann wissen sie genau, wer da ist.

3. Der große Trick: Lernen, „Unbekannte" zu erkennen 🚫

Das größte Problem bei Sicherheitsystemen ist das Open-Set-Problem.

• Szenario: Das System wurde nur mit 20 bekannten Drohnen trainiert. Plötzlich fliegt eine völlig neue, illegale Drohne vorbei.
• Das alte Problem: Ein normales System würde versuchen, diese neue Drohne in eine der 20 bekannten Kategorien zu zwängen. Es würde sagen: „Das ist eine DJI Phantom!" (falsch!).
• Die neue Lösung (IG-OpenMax):
  Die Autoren haben einen genialen Trick angewendet. Sie haben dem System gesagt: „Stell dir vor, es gibt auch unbekannte Drohnen."
  1. Sie haben einen Künstlichen Intelligenz-Generator (ein GAN) gebaut, der sich fiktive unbekannte Drohnen-Signale ausdenkt.
  2. Sie haben diese fiktiven Signale dem System gezeigt, damit es lernt: „Aha, wenn das Signal so aussieht, ist es nicht eine der bekannten 20."
  3. Wichtigster Schritt: Sie haben den „Gehirnteil" (die Merkmalsanalyse) des Systems eingefroren. Sie haben nur den „Entscheidungsteil" (die Klassifizierung) neu trainiert.
  • Warum? Wenn man das ganze Gehirn neu trainiert, vergisst es, wie die echten Drohnen aussehen. Wenn man nur den Entscheidungsteil anpasst, bleibt das Wissen über die echten Drohnen erhalten, aber das System lernt, die „Fremden" abzulehnen.

4. Das Ergebnis: Ein Meisterdetektiv 🏆

Das Ergebnis ist beeindruckend:

• Bei bekannten Drohnen: Das System erkennt sie zu 95,12 % korrekt.
• Bei unbekannten Drohnen: Es erkennt zu 96,08 %, dass es sich um eine unbekannte, potenziell gefährliche Drohne handelt, und sagt: „Das ist niemand von meiner Liste!"
• Der Balance-Akt: Früher mussten Systeme entweder gut bei bekannten oder gut bei unbekannten Drohnen sein. Dieses System ist in beiden Bereichen fast perfekt.

Zusammenfassung in einem Satz

Die Forscher haben ein System entwickelt, das wie ein erfahrener Musikkenner ist: Es erkennt nicht nur die bekannten Lieder (Drohnen-Typen) perfekt, sondern merkt sofort, wenn jemand ein völlig neues, unbekanntes Lied spielt, und warnt davor, ohne dabei die alten Lieder zu vergessen.

Das ist ein riesiger Schritt für die Sicherheit in unserer Luftraum, besonders in Städten, wo immer mehr Drohnen fliegen. 🚀🛡️

Technische Zusammenfassung

Hier ist eine detaillierte technische Zusammenfassung des vorliegenden Papiers auf Deutsch:

Titel: Multi-Domain Supervised Contrastive Learning für die Open-Set-Erkennung von UAV-Radiofrequenzen (RF)

Autoren: Ning Gao et al.

---

1. Problemstellung

Mit dem Aufkommen von 5G-Advanced (5G-A) und der Entwicklung von Integrated Sensing and Communication (ISAC) in niedrigen Höhen (Low Altitude) haben sich unbemannte Luftfahrzeuge (UAVs) stark vermehrt. Dies führt zu Sicherheitsrisiken durch nicht kooperative oder illegale UAVs.

• Herausforderung: Herkömmliche Überwachungsmethoden (Radar, Optik, Akustik) haben Einschränkungen (z. B. Wetterabhängigkeit, Sichtlinienprobleme). RF-basierte Erkennung ist robuster, leidet jedoch unter nicht-stationären Signalen und Frequenzsprüngen (Frequency Hopping), was die Merkmalsextraktion erschwert.
• Das Open-Set-Problem: Die meisten bestehenden RF-Erkennungsmethoden arbeiten im "Closed-Set"-Modus, d. h., sie erkennen nur UAV-Typen, die im Training vorhanden waren. In der Realität tauchen jedoch oft unbekannte, manipulierte oder neue UAV-Typen auf, die im Closed-Set-Modus fälschlicherweise als bekannte Typen klassifiziert werden.
• Ziel: Ein System zu entwickeln, das sowohl bekannte UAV-Typen hochpräzise erkennt als auch unbekannte Typen zuverlässig als "unbekannt" identifiziert, ohne die Genauigkeit für bekannte Klassen zu opfern.

2. Methodik

Die Autoren schlagen einen neuen Rahmen vor, der Multi-Domain Supervised Contrastive Learning (MD-SupContrast) mit einem verbesserten Generativen OpenMax (IG-OpenMax) Algorithmus kombiniert. Das Gesamtsystem wird als Open-RFNet bezeichnet.

A. Datenvorverarbeitung

• Roh-I/Q-Signale werden geschnitten, entzerrt (Denoising) und mittels Kurzzeit-Fourier-Transformation (STFT) in Zeit-Frequenz-Darstellungen (Spektrogramme) umgewandelt.
• Ein Rauschfilter entfernt Signalabschnitte unterhalb eines Schwellenwerts, um reine Hintergrundrauschen-Samples zu eliminieren.

B. Feature-Extraktion (Multi-Domain)

Das Modell extrahiert und fusioniert zwei Arten von Merkmalen:

1. Texturmerkmale: Extrahiert mittels ResNet-18. Diese erfassen lokale geometrische Eigenschaften des Spektrogramms (z. B. Kanten, Energieverteilung), die robust gegenüber nicht-stationären Signalen und Frequenzsprüngen sind.
2. Zeit-Frequenz-Positionsmerkmale: Extrahiert mittels Transformer Encoder (TE). Diese nutzen Self-Attention-Mechanismen, um globale Abhängigkeiten und die relative Position von Signalblöcken im Zeit-Frequenz-Raum zu erfassen. Dies hilft bei der Unterscheidung zwischen bekannten und unbekannten Klassen.

• Fusion: Beide Merkmalsströme werden über nicht-lineare Schichten (MNLs) fusioniert.

C. Supervised Contrastive Learning (SupContrast)

Anstelle der herkömmlichen Cross-Entropy-Loss-Funktion wird Supervised Contrastive Loss verwendet.

• Ziel: Proben derselben Klasse werden im Feature-Raum näher zusammengebracht (Clusterbildung), während Proben verschiedener Klassen weiter voneinander entfernt werden.
• Vorteil: Dies löst das Problem des unausgewogenen Optimierens mehrerer Feature-Typen (Textur vs. Position) und verbessert die Diskriminierungsfähigkeit bei sehr ähnlichen und verrauschten RF-Signalen.

D. Open-Set-Erkennung: IG-OpenMax Algorithmus

Um unbekannte Klassen zu erkennen, wird ein zweistufiger Ansatz entwickelt:

1. Generierung von synthetischen "Unbekannten": Ein WGAN-GP (Wasserstein GAN mit Gradient Penalty) generiert synthetische Samples für bekannte Klassen. Samples, die vom geschlossenen Modell (Open-RFNet-C) falsch klassifiziert werden, werden als Simulation für unbekannte Klassen genutzt.
2. Zweistufiges Fine-Tuning (IG-OpenMax):
   • Im Gegensatz zum klassischen G-OpenMax wird hier der Feature-Extraktor eingefroren.
   • Nur der Klassifikationskopf wird mit einer Mischung aus echten Trainingsdaten und den synthetischen "falsch klassifizierten" Daten neu trainiert.
   • Begründung: Das Einfrieren des Feature-Extraktors erhält den ursprünglichen Feature-Raum bei. Synthetische Samples, die in diesem Raum an den Rändern liegen, approximieren die Verteilung echter unbekannter UAVs besser, als wenn der gesamte Netzwerkrückbau verändert würde.
3. Weibull-Verteilung: Die Aktivierungswerte werden mit einer Weibull-Verteilung angepasst, um die Wahrscheinlichkeit für unbekannte Klassen basierend auf Extremwerttheorie (EVT) zu berechnen, ohne manuelle Schwellenwerte.

3. Wichtige Beiträge

1. MD-SupContrast Framework: Eine innovative Kombination aus Textur- und Positionsmerkmalen, optimiert durch überwachtes kontrastives Lernen, um die Robustheit gegenüber nicht-stationären UAV-Signalen zu erhöhen.
2. IG-OpenMax Algorithmus: Eine Verbesserung des G-OpenMax, die durch das Einfrieren des Feature-Extraktors und das gezielte Retraining des Klassifikators eine bessere Balance zwischen Closed-Set- und Open-Set-Leistung erreicht.
3. Open-RFNet Modell: Ein vollständiges System, das auf einem großen öffentlichen Datensatz (DroneRFa) validiert wurde und sowohl bekannte als auch unbekannte UAV-Typen effektiv unterscheidet.

4. Ergebnisse

Die Experimente wurden mit einem Datensatz von 25 UAV-Typen durchgeführt (20 bekannte, 5 unbekannte Klassen).

• Closed-Set Genauigkeit (KAR): 95,12 % (Erkennung bekannter UAVs).
• Open-Set Genauigkeit (UAR): 96,08 % (Erkennung unbekannter UAVs).
• Leistungslücke (GAP): Der Unterschied zwischen Closed-Set und Open-Set beträgt nur 0,96 %, was eine hervorragende Balance zeigt.
• Vergleich: Open-RFNet übertrifft bestehende Benchmark-Methoden (wie S3R, UIOS, G-OpenMax, OpenMax).
  • Beispiel: Die UIOS-Methode erreichte eine UAR von 0 % auf der Open-RFNet-Architektur, während Open-RFNet 96,08 % erreichte.
  • Ablationsstudie: Die Kombination aus Transformer und SupContrast war entscheidend; einzelne Komponenten führten zu Leistungseinbußen.
• Latenz: Die End-to-End-Verarbeitung (inkl. Vorverarbeitung und Inferenz) liegt im Millisekundenbereich (~54 ms), was für Echtzeit-Anwendungen geeignet ist.

5. Bedeutung und Ausblick

• Sicherheit: Die Methode bietet eine robuste Lösung für die Überwachung von Luftraumgrenzen, indem sie nicht nur bekannte Drohnen identifiziert, sondern auch neue, unbekannte Bedrohungen erkennt.
• Technischer Fortschritt: Der Ansatz demonstriert, dass das Einfrieren von Feature-Extraktoren bei der Generierung synthetischer Daten für Open-Set-Lernprobleme entscheidend ist, um den Feature-Raum stabil zu halten.
• Zukunft: Die Autoren planen, die Methode auf Szenarien mit mehreren gleichzeitig fliegenden UAVs (überlagernde Signale) auszuweiten, was eine aktuelle Herausforderung darstellt.

Zusammenfassend stellt dieses Papier einen signifikanten Fortschritt in der RF-basierten UAV-Überwachung dar, der die Lücke zwischen theoretischen Closed-Set-Modellen und der komplexen Realität offener Umgebungen schließt.