Hybrid Active-Online Learning Framework for Label-Efficient Concept Drift Adaptation in Optical Network Failure Detection

Technische Samenvatting: Hybride Actieve-Online Learning voor Foutdetectie in Optische Netwerken

Probleemstelling
Effectief foutbeheer in optische netwerken is cruciaal voor het handhaven van een continue dienstverlening. Hoewel machine learning (ML)-methoden zijn voorgesteld om foutdetectie te automatiseren, schieten statische modellen vaak tekort wanneer de onderliggende datadistributie verandert—een fenomeen dat bekend staat als Concept Drift (CD). In optische netwerken ontstaat CD door factoren zoals veroudering van apparatuur en variërende kanaaleigenschappen. Een specifieke uitdaging treedt op wanneer modellen getraind op "soft failure" data geconfronteerd worden met zeldzame "hard failure" gebeurtenissen, die moeilijk te simuleren zijn en waarvoor gelabelde data schaars is.

Traditionele online learning past zich aan concept drift aan door modellen sequentieel bij te werken op basis van streaming data. Echter, standaard online benaderingen gaan ervan uit dat labels constant beschikbaar zijn voor elke sample. In real-world implementaties is deze aanname zelden houdbaar, aangezien expertverificatie of geautomatiseerde oracles niet altijd toegankelijk zijn. Bijgevolg is er behoefte aan een methode die zich aanpast aan concept drift terwijl deze opereert onder strikte schaarste aan labels.

Methodologie
De auteurs stellen een Hybride Actieve-Online Learning Framework voor dat de aanpasbaarheid van online learning integreert met de label-efficiëntie van active learning.

• Dataset en Kenmerken: De studie maakt gebruik van een dataset gegenereerd uit een experimentele testopstelling die vier kenmerken bevat: Bit-Error-Rate (BER) en Optical Signal-to-Noise Ratio (OSNR) gemeten bij zowel de zender als de ontvanger. De data is gesplitst in een Soft Failure (SFD) set en een Hard Failure (HFD) set.
• Systeemarchitectuur: Drie modellen werden vergeleken:
  1. Statisch Model: Voorgetraind op SFD en gebruikt voor enkel inferentie op nieuwe samples.
  2. Gesuperviseerd Online Model: Voorgetraind op SFD, vervolgens bijgewerkt op een prequentiële wijze (voorspellen, dan leren) met gebruik van elke beschikbare sample en de bijbehorende label.
  3. Hybride (Actief+Online) Model: Voorgetraind op SFD, verwerkt vervolgens streaming data door eerst te voorspellen. Het maakt gebruik van Uncertainty Sampling om de marge (verschil in waarschijnlijkheid) tussen falen en normaal te berekenen.
• Labelstrategie: Het hybride systeem vraagt een label aan alleen als de onzekerheidsmarge de Margin Threshold overschrijdt en als het systeem beschikt over beschikbare "budget tokens". Indien een query wordt uitgevoerd, wordt het model bijgewerkt; anders wordt de sample overgeslagen om het labelbudget te sparen. Het budget wordt incrementeel aangevuld.
• Drift Detectie: Een tweestapsprocedure (Page-Hinkley Test gevolgd door een Kolmogorov-Smirnov test) werd ingezet om concept drifts te identificeren in de OSNR_Rx feature, die de hoogste correlatie met de failure labels vertoonde. Deze detectie werd gebruikt voor visualisatie en analyse, maar controleerde de labeling budget niet direct.
• Algoritme: Het Adaptive Random Forest (ARF) ensemble werd gekozen voor alle drie de systemen vanwege de geschiktheid voor online learning taken.

Belangrijkste Bijdragen
De primaire bijdrage van dit werk is de eerste gezamenlijke toepassing van active en online learning voor foutdetectie in optische netwerken. Het framework beoogt het "beste van beide werelden" te bieden: het vermogen van online learning om zich aan te passen aan concept drift en de label-efficiëntie van active learning om te opereren in omgevingen met een tekort aan labels.

Resultaten
Experimenten werden uitgevoerd met de HFD als streaming data, waarbij synthetische failure samples aan het einde van de stream werden toegevoegd om een toename van foutgebeurtenissen te simuleren.

• Nauwkeurigheid en AUC: De hybride benadering bereikte een prestatie die vergelijkbaar is met het volledig gesuperviseerde online model. Door de Margin Threshold af te stemmen op 0,7, behaalde het systeem een rolling accuracy van 0,77 en een AUC van 0,59 in het laatste venster. Cruciaal is dat deze prestatie werd behaald terwijl slechts 3,4% van de streaming samples werd opgevraagd (193 queries uit de oorspronkelijke HFD stream).
• Adaptatie aan Drift: Beide online modellen (gesuperviseerd en hybride) presteerden significant beter dan het statische model bij het tegenkomen van concept drift en hard failures. De nauwkeurigheid van het hybride model verbeterde naarmate het leerde van de enkele opgevraagde failure samples, en overtrof uiteindelijk kortstondig de prestaties van het gesuperviseerde model wanneer synthetische samples werden geïntroduceerd.
• Latentie: Het hybride systeem vertoonde een verwaarloosbare latentie-overhead. De gemiddelde per-event latentie was 0,1650 ms, vrijwel identiek aan het statische model (0,1624 ms). De online overhead voor het hybride model was slechts 0,0027 ms, een drastische reductie ten opzichte van de 0,3522 ms overhead van het volledig gesuperviseerde online model.

Betekenis en Claims
Het artikel claimt dat het voorgestelde hybride framework een praktische oplossing biedt voor real-time monitoring in optische netwerken waar labeling beperkt is. Door een bijna maximale nauwkeurigheid en AUC-scores te behalen met minimale labeling (3,4% van de samples) en de latentieniveaus te handhaven die vergelijkbaar zijn met statische inferentie, adresseert de methode de kritieke trade-off tussen adaptatieprestaties en operationele kosten. De auteurs concluderen dat deze aanpak effectieve adaptatie aan concept drift mogelijk maakt zonder de prohibitieve kosten van continue menselijke of oracle labeling.