🤖 AI

Neuro-Agentic Control: A Deep Learning-based LLM-Powered Agentic AI Framework for Controlling Security Controls

Dit artikel introduceert een Neuro-Agentic Control-framework dat een LLM-gebaseerde planner combineert met een Time-Series Foundation Model en een Counterfactual Physics Injection-mechanisme om een veilige, op fysica gebaseerde autonome verdediging tegen cyberaanvallen in industriële IoT-omgevingen mogelijk te maken, waarbij inbreuken effectief worden voorkomen terwijl onveilige gehallucineerde acties worden geëlimineerd.

Oorspronkelijke auteurs: Saroj Gopali, Bipin Chhetri, Deepika Giri, Sima Siami-Namini, Akbar Siami Namin

Gepubliceerd 2026-07-13

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Saroj Gopali, Bipin Chhetri, Deepika Giri, Sima Siami-Namini, Akbar Siami Namin

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je de kapitein bent van een hoogtechnologische waterzuiveringsinstallatie. Je taak is om te voorkomen dat een enorme tank overloopt, wat een enorme rommel of zelfs fysieke schade kan veroorzaken. Normaal gesproken vertrouw je op een strikt regelboek: "Als het water de 800 mm bereikt, open de afvoer." Maar wat als een sluwe hacker de sensoren manipuleert, waardoor het water sneller stijgt dan jouw regelboek aankan?

Dit is waar een nieuw idee genaamd Neuro-Agentic Control om de hoek komt kijken. Denk aan een super-slim team van twee robots die samenwerken om de dag te redden.

Het Droomteam: De Architect en De Wachtpost

De eerste robot wordt De Architect genoemd. Deze wordt aangedreven door een super-slim AI-brein (specifiek een model genaamd Gemini 2.5 Flash-Lite). De Architect is geweldig in het analyseren van de situatie en het bedenken van slimme plannen. Het kan bijvoorbeeld zeggen: "Hé, het water stijgt! Laten we de afvoer klep super snel voor 30 seconden openzetten!"

Maar hier is de adder onder het gras: De Architect is een beetje een dromer. Soms wordt het te creatief en stelt het dingen voor die fysiek onmogelijk of gevaarlijk zijn, zoals "Voeg meer water toe!" wanneer de tank al vol is. In de echte wereld, als je een dromer een machine laat besturen, kun je in een ramp eindigen.

De tweede robot is De Wachtpost (The Sentinel). Dit is een serieuze, geen-onzin, tijdreizende rekenmachine (aangedreven door een model genaald TimesFM). De Wachtpost droomt niet; de voorspelt. Het weet precies hoe het water zich gedraagt op basis van natuurkunde en wiskunde.

De Magische Truc: "Wat Als?" Simulaties

Het genie van dit systeem is hoe ze met elkaar communiceren. Voordat het plan van De Architect daadwerkelijk wordt uitgevoerd op de echte tank, voert De Wachtpost een "Wat als?"-simulatie uit.

Stel je voor dat De Architect voorstelt: "Laten we 50 mm water per seconde afvoeren." De Wachtpost pauzeert onmiddellijk de tijd en vraagt: "Oké, als we dat doen, wat gebeurt er dan met het waterniveau in de komende minuten?"

Als het plan werkt: De Wachtpost ziet dat het waterniveau veilig daalt. Het geeft een duim omhoog, en de echte klep gaat open.
Als het een hallucinatie is: Als De Architect per ongeluk suggereert "Voeg water toe" of een afvoersnelheid die te extreem is, ziet De Wachtpost in de simulatie dat het waterniveau razendsnel omhoog schiet. Het trekt onmiddellijk de handrem aan, zegt "Nee, dat is een slecht idee," en gooit het plan bij het oud vuil.

Dit proces wordt Counterfactual Physics Injection genoemd. Het is als een vangnet dat de dromer opvangt voordat hij een fout maakt.

Heeft het echt gewerkt?

De onderzoekers testten dit team op een digitale versie van een echte waterzuiveringsinstallatie genaamd SWaT. Ze simuleerden 15 verschillende aanvalsscenario's, waaronder plotselinge pieken in het waterniveau, langzame lekken en ruisachtige, verwarrende data.

Hier is hoe het team presteerde vergeleken met de ouderwetse robots (genaamd LSTM en TCN):

De Ouderwetse Robots: De LSTM-robot slaagde erin om het water te stoppen van overlopen in 4 van de 15 proeven (ongeveer 27%). De TCN-robot stopte het slechts in 2 van de 15 proeven (ongeveer 13%).
Het Nieuwe Team: Het Neuro-Agentic team (Architect + Wachtpost) voorkwam de overflow succesvol in 5 van de 15 proeven (33,3%).

Maar de echte winst was niet alleen het stoppen van meer lekken; het was het feit dat het nooit een fout maakte. In alle 15 proeven heeft het systeem elke onveilige of onmogelijke suggestie van de Architect afgewezen. Het heeft nooit een "gehallucineerde" actie uitgevoerd. Sterker nog, in één specifieke proef verminderde het nieuwe team het risico met een enorme 215,38 eenheden, wat veel beter was dan de oude robots ooit konden (die op hun best slechts ongeveer 67 eenheden behaalden).

Het Nadeel: Het kost een moment om na te denken

Er is één kleine afweging. Omdat de Wachtpost deze "Wat als?"-simulaties moet draaien om te controleren of het plan wel veilig is, duurt het hele proces iets langer. Het systeem heeft ongeveer 1,5 tot 2,5 seconden nodig om een beslissing te nemen.

Voor een watertank is dat ruim voldoende. Maar voor een robotarm die met lichtsnelheid beweegt, is dat misschien te traag. De auteurs suggereren dat dit een goede deal is voor de veiligheid, maar geven toe dat ze dit in de toekomst sneller moeten maken voor andere soorten machines.

De Kern van het Verhaal

Dit artikel laat zien dat we super-slimme, creatieve AI kunnen gebruiken om gevaarlijke machines aan te sturen, zolang we het koppelen aan een strikte, natuurkunde-kenner die als waakhond fungeert. De "Architect" komt met de ideeën, en de "Wachtpost" controleert de wiskunde om te zorgen dat ze de plant niet laten ontploffen. In deze simulaties was dit team beter in het stoppen van rampen en veiliger dan de traditionele methoden, wat bewijst dat een beetje "dagdromen" oké is, zolang er een serieuze vriend is om je met beide benen op de grond te houden.

Technische Samenvatting: Neuro-Agentic Control Framework voor Industriële IoT-beveiliging

1. Probleemstelling

Cyberaanvallen op Operational Technology (OT) en Industrial Internet of Things (IIoT) systemen veroorzaken steeds vaker aanzienlijke financiële verliezen en fysieke veiligheidsrisico's. Traditionele regelgebaseerde monitoring is onvoldoende voor de complexe, dichte omgevingen van moderne industriële implementaties. Hoewel Large Language Models (LLMs) krachtige semantische redeneercapaciteiten bieden voor besluitvormingsondersteuning, vormt hun neiging tot "hallucinatie" (het genereren van feitelijk onjuiste of fysiek onmogelijke outputs) een onacceptabel veiligheidsrisico voor closed-loop controlesystemen. Daartegenover staan bestaande tijdreeksvoorspellingsmodellen die vaak de semantische redenering missen die nodig is om complexe tegenstrategieën te formuleren. Er is een kritieke behoefte aan een framework dat het redeneervermogen van LLMs benut terwijl de acties strikt geworteld blijven in de fysieke realiteit om catastrofale defecten in Cyber-Physical Systems (CPS) te voorkomen.

2. Methodologie

Het paper stelt een Neuro-Agentic Control Framework voor, een twee-fasen architectuur die semantische redenering ontkoppelt van fysieke controle. Het systeem werkt als een closed loop bestaande uit twee primaire agenten:

De Architect (LLM Planner): Maakt gebruik van Gemini 2.5 Flash-Lite en fungeert als een semantische redeneerder. Deze agent ontvangt contextuele data (sensortrends, voorspelde tijd tot falen en operationele handleidingen verkregen via Retrieval-Augmented Generation) en genereert kandidaat-controlestrategieën. Deze strategieën worden uitgegeven als gestructureerde JSON-objecten die een actietype, magnitude (bijv. afvoersnelheid) en duur definiëren.
De Sentinel (Physics Engine): Maakt gebruik van TimesFM (een pre-trained Time-Series Foundation Model) en dient als een deterministische fysieke grondwaarheid. Deze agent werkt zijn interne gewichten niet bij, maar gebruikt zijn pre-trained kennis van temporele dynamiek om toekomstige systeemtoestanden te voorspellen.

Kernmechanisme: Counterfactual Physics Injection

De centrale innovatie is het Counterfactual Physics Injection mechanisme. Omdat de LLM de interne gewichten van het foundation model niet direct kan wijzigen, vertaalt het framework de semantische commando's van de LLM naar numerieke perturbaties binnen de voorspelde tijdreeks.

Het systeem simuleert het effect van een door de LLM voorgestelde actie (bijv. het openen van een afvoerklep) door een cumulatieve lineaire injectie toe te passen op de voorspelde horizon.
Voor een afvoersnelheid $\mu$ $μ$ en duur $\delta$ $δ$ wordt de gewijzigde voorspelling $\hat{y}'_t$ $\overset{y}{^}_{t}^{'}$ berekend als:
- $\hat{y}'_t = \hat{y}_t + \mu \cdot (t + 1)$ voor $t < \delta$ (cumulatief afvoereffect).
- $\hat{y}'_t = \hat{y}_t + \mu \cdot \delta$ voor $t \geq \delta$ (het behouden van het uiteindelijke afvoerniveau).
Dit stelt de Sentinel in staat om de fysieke uitkomst van een voorgestelde actie te voorspellen voordat deze wordt uitgevoerd.

Hallucinatie Rejection Strategie

Het framework maakt gebruik van een deterministisch Hallucination Rejection algoritme. Voordat een actie wordt uitgevoerd, simuleert de Sentinel de uitkomst van elke kandidaat-strategie die door de Architect is voorgesteld.

Veiligheidsverificatie: Als een gesimuleerde actie resulteert in een systeemtoestand die slechter is dan de baseline (bijv. een actie met een positieve magnitude "vullen" tijdens een overloopscenario, of een actie die er niet in slaagt het niveau onder de kritieke drempel te verlagen), wordt deze afgewezen.
Optimalisatie: Het systeem selecteert de optimale actie $a^*$ die het geprojecteerde risico (maximale piekwaarde) minimaliseert over alle geldige kandidaten. Als alle kandidaten onveilig of ineffectief zijn, schakelt het systeem over naar een "Monitor" status.

3. Belangrijkste Bijdragen

Nieuwe Architectuur: Een Neuro-Agentic Control framework dat semantische redenering (LLM) expliciet scheidt van fysieke controle (Foundation Model) voor IoT-systemen.
Counterfactual Physics Injection: Een mechanisme om semantische controleacties te vertalen naar numerieke perturbaties van toekomstige voorspellingen, wat deterministische validatie mogelijk maakt zonder het foundation model te finetunen.
Deterministische Rejection Strategie: Een veiligheidslaag gebaseerd op het minimaliseren van het risico in het slechtste scenario, die automatisch onveilige, fysiek ongeldige of hallucinerende LLM-voorstellen afwijst.
Empirische Validatie: Demonstratie van de effectiviteit van het framework op de SWaT (Secure Water Treatment) dataset, waarbij superieure breukpreventie wordt getoond ten opzichte van traditionele deep learning baselines.

4. Experimentele Resultaten

Het framework werd geëvalueerd op de SWaT-dataset onder 15 stochastische aanvalscenario's met betrekking tot drie typen aanvallen: Sudden Spike, Gradual Drift en High Noise. De prestaties werden vergeleken met LSTM en Temporal Convolutional Network (TCN) baselines.

Breukpreventie:
- Neuro-Agentic: Voorkwam breuken in 5 van de 15 proeven (33,3%).
- LSTM: Voorkwam breuken in 4 van de 15 proeven (26,7%).
- TCN: Voorkam breuken in 2 van de 15 proeven (13,3%).
Risicoreductie:
- Het Neuro-Agentic framework bereikte een gemiddelde risicoreductie van 48,51 eenheden, wat significant beter is dan de LSTM (16,77 eenheden) en TCN (20,29 eenheden).
- In de meest succesvolle proef (Trial 10) reduceerde het framework de risicopiek met 215,38 eenheden, meer dan drie keer de maximale reductie behaald door de LSTM-baseline.
Veiligheid en Hallucinatie:
- Cruciaal is dat het Neuro-Agentic systeem nul gehallucineerde of fysiek ongeldige acties uitvoerde. De Sentinel filterde alle onveilige voorstellen (bijv. acties met een positieve magnitude tijdens een overloop) succesvol uit voordat ze werden uitgevoerd.
- In tegenstelling hiertoe faalden de baselines of, in het geval van het Neuro-Agentic systeem, zorgde het afwijzingsmechanisme ervoor dat er nooit "gehallucineerde" strategieën op het systeem werden toegepast.

5. Betekenis en Claims

Het paper claimt dat de Neuro-Agentic Loop succesvol de kloof overbrugt tussen het hoogwaardige redeneren van Generatieve AI en de strikte veiligheidseisen van industriële controle. Door een Time-Series Foundation Model als "Sentinel" te gebruiken, biedt het systeem een fysica-gegrondde wereldmodel dat LLM-beslissingen deterministisch valideert.

Veiligheidsgarantie: Het framework transformeert LLMs van opaciteit en probabilistische voorspellers naar uitlegbare, veiligheidsbeperkte planners. Het zorgt ervoor dat geen enkele hallucinerende controleactie wordt uitgevoerd, wat een primaire barrière vormt voor het gebruik van LLMs in veiligheidskritische CPS.
Prestaties: Het systeem demonstreert dat het koppelen van een LLM aan een foundation model betere breukpreventie en risicoreductie oplevert dan traditionele deep learning modellen, vooral in scenario's die snelle, beslissende interventie vereisen (bijv. plotselinge pieken).
Trade-offs: De auteurs erkennen dat deze aanpak een inferentie-latentie introduceert van 1,5 tot 2,5 seconden per controlesnelheid (door LLM-generatie en counterfactual simulatie), wat hoger is dan traditionele PID-controllers maar binnen de operationele tijdconstanten van de meeste chemische en vloeistofprocessen blijft.

Het paper concludeert dat deze architectuur een levensvatbaar pad biedt naar autonome, veilige industriële defensie, mits de latentie wordt beheerd en het systeem wordt gevalideerd over diverse omgevingen. Toekomstig werk wordt voorgesteld om de inferentie-latentie te optimaliseren via modelkwantisering en om de robuustheid te testen tegen adversariële aanvallen die gericht zijn op de forecast horizon van het foundation model.