Incremental Learning-Based Open-Set Classification of Unknown UAVs via RF Signal Semantics

Titel: Incrementele Leer-gebaseerde Open-Set Classificatie van Onbekende UAV's via RF-signaal Semantiek

Auteurs: Julie Liu, Irshad A. Meer, Cicek Cavdar (KTH Royal Institute of Technology, Zweden) en Mustafa Ozger (Aalborg Universiteit, Denemarken).

---

1. Probleemstelling

De proliferatie van civiele en commerciële onbemande luchtvaartuigen (UAV's of drones) vereist betrouwbare systemen voor identificatie via radiofrequente (RF) signalen. Bestaande methoden voor droneherkenning maken echter vaak gebruik van een gesloten-set (closed-set) aanname: alle UAV-types zijn bekend tijdens het trainingsproces.

In de praktijk is het luchtruim een open wereld waar nieuwe of aangepaste UAV-types voortdurend ontstaan door hardware- of firmware-updates. Traditionele classifiers falen in deze omgeving omdat ze:

• Onbekende signalen vaak met overmatig vertrouwen (overconfident) als een bekende klasse classificeren.
• Geen mechanisme hebben om nieuwe klassen te ontdekken of te leren zonder volledige hertraining.
• Gevoelig zijn voor "catastrophic forgetting" (catastrofaal vergeten) bij incrementele updates, waarbij kennis van oude klassen verloren gaat.

Het doel is een systeem te ontwerpen dat niet alleen bekende drones kan herkennen, maar ook onbekende signalen kan detecteren, nieuwe klassen kan clusteren en deze incrementeel kan integreren zonder de prestaties op oude klassen te verliezen.

2. Methodologie

Het artikel stelt een unificerend raamwerk voor incrementele open-set learning voor. De architectuur bestaat uit drie hoofdfasen die naadloos met elkaar verbonden zijn:

A. Semantische Embedding Learning

• Input: Ruwe I/Q RF-signalen worden omgezet naar spectrogrammen via de Short-Time Fourier Transform (STFT).
• Encoder: Een hybride encoder verwerkt de spectrogrammen met een dual-branch architectuur:
  • Een CNN-encoder met gediscaleerde convoluties (dilated convolutions) voor het vastleggen van fijne spectrale texturen en tijdsomhulsels.
  • Een Transformer-encoder voor het modelleren van lange-afstand afhankelijkheden en het behoud van tijds-frequentie localiteit via positionele encoding.
• Verliesfunctie: Een composite feature loss ($L_{feat}$) wordt gebruikt om de embeddingruimte te structureren, bestaande uit intra-class compactheid, inter-class scheiding en cross-entropy supervisie.

B. Open-Set Recognition (OSR)

• Na training op bekende klassen ($C_0$) worden de embeddings gemodelleerd als Gaussische verdelingen (gemiddelde $\mu_k$ en covariantie $\Sigma_k$).
• Decision Boundary: Tijdens inferentie wordt de Mahalanobis-afstand berekend tussen een test-sample en de bekende klassen.
• Afwijzing: Een dynamische drempelwaarde ($\tau_k$) wordt bepaald via de "three-sigma rule" (99,7% betrouwbaarheid). Als de afstand groter is dan de drempel, wordt het signaal afgewezen als "onbekend" en doorgestuurd naar de clustering-module.

C. Clustering voor Ontdekking van Nieuwe Klassieken

• Afgewezen onbekende samples worden geclusterd om potentiële nieuwe UAV-klassen te identificeren.
• Algoritme: Er wordt een vergelijking gemaakt tussen K-Means en Gaussian Mixture Models (GMM).
• Validatie: De optimale aantallen clusters ($k^*$) worden bepaald door een composiete geldigheidsscore ($Q(k)$) te maximaliseren. Deze score combineert:
  • Silhouette-score ($S_k$)
  • Calinski-Harabasz-index ($CH_k$)
  • Davies-Bouldin-index ($DB_k$)
  • Verklaarde variantie ($V_k$)
• Alleen clusters met voldoende zuiverheid en grootte worden geselecteerd als nieuwe klassen.

D. Incrementeel Leren met Light-Weight Replay

• Om catastrofaal vergeten te voorkomen, wordt een replay-mechanisme gebruikt.
• Een beperkt geheugen ($M$) bewaart een klein aantal representatieve samples van eerder geleerde klassen.
• Bij het integreren van nieuwe klassen wordt het model bijgewerkt met een gemengde dataset van nieuwe samples en geselecteerde replay-samples, binnen een strikt geheugenbudget.

3. Belangrijkste Bijdragen

1. Unificerend Raamwerk: De eerste integratie van open-set detectie, clustering-gebaseerde ontdekking van nieuwe klassen en replay-gebaseerd incrementeel leren in één schaalbaar proces voor RF-herkenning.
2. Robuste Clustering-strategie: Een automatische modelkeuze (K-Means vs. GMM) gebaseerd op een composiete validatiescore, wat zorgt voor betrouwbare ontdekking van nieuwe klassen onder ruisige RF-omstandigheden.
3. Geheugen-efficiëntie: Een incrementele leermechanisme met een gebonden replay-strategie die catastrofale vergetelheid minimaliseert met zeer weinig opslagkosten.

4. Resultaten

De methode is geëvalueerd op een real-world dataset met 24 UAV-classes (18 bekende voor training, 6 onbekende voor evaluatie).

• Open-Set Detectie: De Mahalanobis-gebaseerde drempelwaarde scheidt onbekende signalen effectief van bekende klassen, wat resulteert in een lage misclassificatie van onbekende drones als bekende klassen.
• Clustering: De voorgestelde composiete strategie selecteert automatisch K-Means als de beste methode (Puurheid: 0,921, Composiete score: 0,770), wat superieur is aan alleen GMM of K-Means. De t-SNE visualisaties tonen een sterke overeenkomst tussen de voorspelde clusters en de werkelijke onbekende klassen.
• Incrementele Prestaties:
  • Zonder replay ($old\_max=0$): Catastrofaal vergeten treedt op (accuraatheid oude klassen daalt naar 0%).
  • Met minimale replay ($old\_max=5$): De accuraatheid op oude klassen herstelt zich naar 100%, terwijl de nieuwe klassen een accuraatheid van 98,1% behalen.
  • Verdere vergroting van het replay-budget levert slechts marginale verbeteringen op, wat aantoont dat een klein aantal samples voldoende is voor stabiliteit.

5. Betekenis en Conclusie

Dit onderzoek biedt een oplossing voor de dynamische en onzekere aard van het moderne luchtruim. In plaats van systemen die bij elke nieuwe drone-soort volledig opnieuw getraind moeten worden, stelt dit raamwerk een levenslang leersysteem voor dat:

• Zelfstandig nieuwe UAV-types kan ontdekken en categoriseren.
• Zich aanpast zonder de kennis van eerdere drones te verliezen.
• Functioneert binnen strenge geheugen- en rekentijd-beperkingen, wat essentieel is voor veldtoepassingen.

De resultaten bevestigen dat de combinatie van semantische embedding, probabilistische open-set detectie en selectieve replay een robuuste basis vormt voor real-time UAV-classificatie in evoluerende luchtruimomgevingen. Toekomstig werk richt zich op domein-invariante feature-extractie en federated learning voor gedistribueerde monitoring.