Network-Optimised Spiking Neural Network for Event-Driven Networking

Technische Samenvatting: Netwerk-geoptimaliseerd Spiking Neural Network voor Event-gedreven Netwerken

Probleemstelling
Moderne netwerktaken, zoals verkeersvoorspelling op korte termijn, anomaliedetectie en routing-optimalisatie, vertrouwen steeds vaker op machine learning. Echter, standaard deep learning-modellen (MLP's, RNN's, GNN's) opereren doorgaans op dichte, vaste stappen van inferentie. In operationele netwerken is telemetrie vaak ijl (sparse), bursty en onderhevig aan vertraagde feedback. In dit regime is dichte inferentie computationeel verspillend en kan het timingfouten versterken, met name wanneer het doel vroege waarschuwing en veilige werking nabij stabiliteitsmarges is in plaats van enkel gemiddelde nauwkeurigheid. Bovendien zijn klassieke Spiking Neural Networks (SNN's), hoewel energie-efficiënt en event-gedreven, vaak ongeschikt voor netwerken omdat hun interne toestanden geen correspondentie missen met meetbare netwerkgrootheden (bijv. wachtrijbezetting), hun resetmechanismen niet-differentieerbaar zijn (wat gradiëntgebaseerde training belemmert), en ze vaak geen rekening houden met expliciete graaf-topologie, link-vertragingen en eindige bufferbeperkingen.

Methodologie: Netwerk-geoptimaliseerd Spiking (NOS)
De auteurs introduceren Network-Optimised Spiking (NOS), een trainbare, twee-toestands, event-gedreven dynamische eenheid die specifiek is ontworpen voor vertraagde, graaf-gekoppelde telemetriestromen.

• Semantiek-gealigneerde Toestandsvariabelen: In tegen tegenstelling tot biologische modellen waarbij toestanden membraanpotentialen vertegenwoordigen, mapt NOS zijn toestanden direct naar netwerkobservabelen:
  • $v_i(t)$: Een snelle toestand die de genormaliseerde wachtrijbezetting of congestieniveaus vertegenwoordigt ($v \in [0, 1]$).
  • $u_i(t)$: Een trage toestand die een herstel- of vertragingsbron vertegenwoordigt (bijv. token-vernieuwing of rate-limiter cooldown) die opbouwt tijdens bursts en daarna ontspant.
• Begrensde Excitabiliteit en Dynamiek: Het model vervangt onbegrensde kwadratische drives (gebruikelijk in Izhikevich-modellen) door een verzadigende nonlineariteit, $f_{sat}(v) = \frac{\alpha v^2}{1 + \kappa v^2}$. Dit dwingt eindige groeisnelheden af, wat de eindige buffercapaciteit weerspiegelt. De dynamiek bevat expliciete lineaire termen voor service ($\lambda$), demping ($\chi$) en herstelkoppeling ($\xi$).
• Graaf-lokale Koppeling met Vertragingen: Inputs worden afgeleid van presynaptische event-treinen $S_j(t)$ van buren, waarbij expliciete link-vertragingen ($\tau_{ij}$), per-link gewichten ($w_{ij}$) en optionele gating-functies $g(q_{ij})$ worden geïntegreerd die de invloed moduleren op basis van link-congestie.
• Differentieerbare Resets: Om surrogate-gradient training mogelijk te maken, vervangt NOS harde drempel-resets door twee differentieerbare strategieën:
  1. Event-getriggerde exponentiële soft reset: $v \leftarrow c + (v - c)e^{-r_{reset}\Delta t}$.
  2. Continue pullback: Een sigmoid-vormige term die alleen boven de drempel activeert.
     Deze mechanismen behouden de timing van events terwijl ze gradiëntstroom mogelijk maken.
• Stochastische Drive: Het model incorporeert shot-noise aankomstprocessen met exponentiële smoothing om bursty verkeer en meetruis te representeren.

Belangrijkste Bijdragen

1. Een Semantiek-gealigneerde Spiking Unit: Een compact twee-toestandsmodel waarbij parameters direct mappen naar meetbare netwerkparameters (wachtrijlengte, servicesnelheid, hersteltijd), voorzien van begrensde excitabiliteit en expliciete service/damping leaks.
2. Trainbaarheid via Differentieerbare Resets: De introductie van soft reset-mechanismen die surrogate-gradient optimalisatie mogelijk maken, terwijl het ijle, event-gedreven karakter van SNN's behouden blijft.
3. Rigoureuze Stabiliteitsanalyse:
   • Bewijs van existentie en uniciteit van subthreshold evenwichten.
   • Afleiding van Jacobian-gebaseerde lokale stabiliteitscondities.
   • Ontwikkeling van een scalaire netwerkstabiliteitsdrempel gebaseerd op de Perron-eigenwaarde van de koppelingsmatrix ($\rho(W)$). Deze drempel, $g \rho(W) + f'_{sat}(v^*) < \Lambda$, scheidt de netwerktopologie van de knoopdynamiek, wat een duidelijke operationele marge voor stabiliteit biedt.
4. Operationele Begeleiding: Afleiding van kalibratieregels die demping koppelen aan de aangeboden belasting (offered load), wat een twee-parameter contour biedt voor capaciteitsplanning en hulpbron-beperkte implementatie.

Experimentele Resultaten
De auteurs evalueerden NOS op forecasting en early-warning taken met behulp van wachtrij-telemetrie over drie canonieke topologieën: Chain, Star en Scale-free (Barabási–Albert).

• Prestaties vs. Baselines: Onder een strikt label-vrij residueel protocol (vergelijking met MLP, RNN/GRU en temporele GNN's), toonde NOS superieure prestaties:
  • Detectiekwaliteit: Behaalde de hoogste F1-scores door een sterke precisie te behouden terwijl de recall werd verhoogd.
  • Latentie: Leverde de laagste detectie-latentie (vroegste starttijden) en de kleinste Mean Absolute Error (MAE) en Root Mean Square Error (RMSE) in forecasting.
  • Selectiviteit: NOS bleef dicht bij de waarheid tijdens burst-clusters zonder overmatig te vuren op lage-amplitude ruis, terwijl baselines zoals MLP's fout-positieven produceerden op kleine fluctuaties ("wiggles"), en RNN's timing-lags of voortijdige calls vertoonden.
• Stabiliteit en Topologie: Simulaties bevestigden dat link-vertragingen de stabiliteitsgrenzen verschuiven, wat oscillaties veroorzaakt bij lagere koppelingssterktes. De scalaire stabiliteitsproxy voorspelde instabiliteit accuraat in hub-gedomineerde topologieën (Stars, Scale-free), maar vereiste expliciete simulatie voor homogene ketens (Chains), wat de limieten van eenvoudige spectrale theorie in bepaalde structuren benadrukt.
• Ruisgevoeligheid: Naarmate systemen de stabiliteitsgrenzen naderden, induceerde stochastische drive hogere vuur-frequenties, grotere variabiliteit in de intervallen tussen spikes en zwaardere "avalanche tails", consistent met lineaire respons-theorie.

Betekenis en Claims
Het artikel claimt dat NOS de kloof overbrugt tussen dynamische systementheorie en netwerksemantiek. Door spiking-dynamica direct te mappen aan wachtrijgedrag, biedt het een model dat:

• Interpreteerbaar is: Parameters corresponderen met fysieke netwerkcontroles (AQM, scheduling, damping).
• Stabiel is: De afgeleide spectrale proxy stelt operators in staat om stabiliteitsmarges te controleren met behulp van eenvoudige topologie- en knoopparameters.
• Efficiënt is: De event-gedreven natuur sluit aan bij pakket-niveau dynamiek en is geschikt voor neuromorfische hardware (bijv. Intel Loihi), waar energie schaalt met activiteit in plaats van met het aantal links.
• Effectief is: Het verbetert de vroegtijdige waarschuwing en latentie ten opzichte van compacte geleerde baselines in omgevingen met beperkte middelen en weinig labels.

De auteurs concluderen dat hoewel NOS geen vervanging is voor alle deep learning-taken, het een complementair, efficiënt regime biedt voor lokale, tijdkritische beslissingen in gedistribueerde netwerken, met name waar energiebudgetten krap zijn en een snelle reactie op bursty events vereist is. Toekomstig werk wordt gesuggereerd voor rijkere verkeersmodellen, hiërarchische ontwerpen gekoppeld aan globale controllers, en hardware-in-the-loop validatie.