Adversarial Intelligence: A Systematic Review of AI-Driven Cyber Threat Detection, Adaptive Malware Evasion, and Arms Race Dynamics in Zero Trust Security Environments

Technische Samenvatting: Adversariële Intelligentie in Zero Trust-omgevingen

Probleemstelling
Het artikel behandelt de kritieke discrepantie tussen de snelle adoptie van Kunstmatige Intelligentie (AI) voor cyberdefensie en de parallelle evolutie van AI-gestuurde adversariële aanvallen. Terwijl verdedigers steeds vaker machine learning (ML) en deep learning (DL) inzetten voor intrusiedetectie, malwareclassificatie en gedragsanalyse, zetten aanvallers dezelfde statistische en generatieve instrumenten in om evasieve malware en adversariële netwerkverkeer te creëren. Deze dynamiek heeft geleid tot een voortdurende "wapenwedloop" waarbij detectienauwkeurigheid consequent wordt beantwoord door succesvolle evasie. Er bestaat een significante kloof in de literatuur: weinig werken integreren AI-gestuurde detectie, adversariële evasie en Zero Trust Architecture (ZTA)-governance in één enkel analytisch kader. Gevolgelijk worstelen beoefenaars en beleidsmakers met het begrijpen van de systeembrede consequenties van het implementeren van AI in security stacks, vooral nu generatieve modellen en Large Language Models (LLMs) de tijd en vaardigheden die nodig zijn voor evasie verkleinen. Bovendien vertrouwen ZTA-implementaties op continue AI-gestuurde verificatie, maar de adversariële robuustheid van deze onderliggende AI-componenten wordt zelden geëvalueerd binnen de context van ZTA-governance.

Methodologie
Deze studie is een systematische review van 80 peer-reviewed artikelen, preprints en technische rapporten gepubliceerd tussen 2010 en 2026. De review volgde een PRISMA-geïnspireerd proces, waarbij gezocht werd in databases zoals IEEE Xplore, ACM Digital Library, SpringerLink, ScienceDirect, MDPI en arXiv. Zoektermen werden afgeleid van vijf thematische clusters: intrusiedetectie, adversariële ML/malware-evasie, GANs in security, Zero Trust-architectuur en Explainable AI (XAI) in cybersecurity.

Inclusiecriteria vereisten dat het werk een AI/ML-component bevatte, een cybersecurity detectie/evasie/governance taak behandelde en voldoende methodologische details rapporteerde. De review hanteert een thematische synthese-aanpak in plaats van een kwantitatieve meta-analyse, waarbij bronnen worden gegroepeerd in vier overlappende clusters: detectiegericht, evasie/aanvalgericht, defensie/robuustheidsgericht en governance/ZTA-gericht. De analyse omvat de creatie van vergelijkende tabellen, taxonomieën en kwantitatieve grafieken die de compositie en groei van de gereviewde literatuur karakteriseren.

Kernbijdragen

1. Verenigde Taxonomie van Detectie en Evasie: Het artikel introduceert een gestructureerde taxonomie van AI-gestuurde detectietechnieken (Klassieke ML, Deep Learning, Generatief/Adversarieel, Federated, en LLM-gebaseerd) en brengt deze in kaart tegenover overeenkomstige families van adversariële evasie (Gradiënt-gebaseerd, GAN-gebaseerd, Reinforcement Learning en Search-gebaseerd).
2. Viergeneratie-escalatiemodel: De auteurs traceren de co-evolutie van aanval en defensie over vier technologische generaties:
   • Gen 1: Signatuurgebaseerde defensie versus obfuscatie/packing.
   • Gen 2: Feature-engineered klassieke ML versus feature-space perturbatie.
   • Gen 3: Deep learning (CNN/LSTM/Transformers) versus gradiënt-gebaseerde en door GANs gecreëerde adversariële samples.
   • Gen 4: Adversarial training/Federated Learning/XAI versus LLM-ondersteunde malwaregeneratie en geautomatiseerde red teaming.
     De review toont aan dat stijgende detectienauwkeurigheid consequent is beantwoord door een stijgend succespercentage van evasie, in plaats van dat één trend de overhand kreeg.
3. Zero Trust Governance Gap-analyse: Het artikel identificeert een "governance gap" waarbij ZTA-frameworks structureel afhankelijk zijn van AI voor continue verificatie, maar een geïntegreerde evaluatie van de adversariële robuustheid missen. Het betoogt dat adversariële robuustheid moet worden behandeld als een eersteklas ZTA-ontwerdeis, en niet als een apart ML-onderzoeksonderwerp.
4. Synthese van Uitlegbaarheid en Vertrouwen: De review analyseert de trade-off tussen detectienauwkeurigheid en interpreteerbaarheid. Het benadrukt dat hoewel technieken zoals SHAP en LIME post-hoc verklaringen bieden, ze mogelijk niet getrouw de modelbeslissingen representeren en potentieel de aanvallers kunnen helpen. Het merkt op dat regelgevende kaders (bijv. de EU AI Act, NIST AI RMF) beginnen te mandateren dat uitlegbaarheid vereist is, wat een compliance-imperatief creëert voor veilige AI.
5. Beoordeling en Kritiek op Benchmarks: Het artikel bekritiseert de afhankelijkheid van het veld van verouderde datasets (bijv. KDD Cup 1999, NSL-KDD) en de prevalentie van "feature space"-aanvallen die niet vertalen naar de "problem space" (echte uitvoerbare bestanden of netwerkpakketten). Het roept op tot gestandaardiseerde metrieken voor adversariële robuustheid en probleem-ruimte realiseerbare benchmarks.

Resultaten en Bevindingen

• Detectietechnieken: Deep learning-architecturen (CNNs, LSTMs, Transformers) domineren de huidige literatuur, bereiken een hoge nauwkeurigheid (>99% op benchmarks) maar lijden onder opaciteit en hoge computationele kosten. Generative Adversarial Networks (GANs) worden zowel defensief gebruikt (om minderheidsklasse-samples te synthetiseren) als offensief (om adversariële verkeer te genereren).
• Evasiestrategieën: Adversariële aanvallen zijn geëvolueerd van eenvoudige feature-perturbaties naar geavanceerde GAN-gebaseerde synthese en door Reinforcement Learning (RL) gestuurde modificaties die de kwaadaardige functionaliteit behouden. Black-box aanvallen, gebruikmakend van substitutemodellen of query-gebaseerde methoden, zijn steeds frequenter aanwezig.
• Defensiemechanismen: Adversarial training (herverwerking op geperturbeerde samples) is de meest bestudeerde defensie, maar faalt vaak bij het generaliseren naar onbekende aanvallersfamilies. Ensemble-methoden en detectie-gebaseerde filtering (het identificeren van adversariële inputs vóór classificatie) bieden complementaire bescherming.
• ZTA-integratie: Hoewel authenticatie en autorisatie volwassen zijn in ZTA-implementaties, zijn de componenten "omgevingsperceptie" en "orkestratie"—die afhankelijk zijn van AI-analyses—onderbelicht wat betreft adversariële robuustheid.
• Open Uitdagingen: De review identificeert vijf kritieke clusters van openstaande uitdagingen: (1) Robuustheid en generalisatie (gebrek aan cross-family transferability), (2) Data en benchmarking (behoefte aan probleem-ruimte realiseerbare datasets), (3) Uitlegbaarheid en vertrouwen (getrouwheid van post-hoc verklaringen), (4) Operationele beperkingen (computationele kosten van robuuste training), en (5) Governance en standaardisatie (gebrek aan verenigde robuustheidsmetrieken).

Significantie
Het artikel claimt dat de significantie ligt in het consolideren van een gefragmenteerd lichaam van onderzoek tot een samenhangend verslag van hoe AI beide zijden van het cyberconflict vormgeeft. Door de evolutie van de wapenwedloop te visualiseren via gestructureerde figuren en kwantitatieve samenvattingen, beoogt het werk de weg van bewustwording naar actiegerichte praktijk te verkorten.

Voor beoefenaars verklaren de geboden taxonomieën en wapenwedloopmodellen waarom detectoren die goed presteren op statische benchmarks vaak falen tegen adaptieve aanvallers. Voor beleidsmakers en standaardisatieorganen biedt de gesynthetiseerde bewijsvoering met betrekking tot uitlegbaarheid, robuustheid en ZTA-integratie een basis voor het opstellen van sectorspecifieke richtlijnen (bijv. voor de gezondheidszorg en financiële sector) die in lijn zijn met kaders zoals het NIST AI Risk Management Framework. Voor de onderzoeksgemeenschap belicht de review concrete hiaten—zoals de schaarste aan realistische adversariële benchmarks en de onopgeloste trade-off tussen interpreteerbaarheid en nauwkeurigheid—om toekomstig experimenteel ontwerp te informeren. Uiteindelijk betoogt het artikel dat het dichten van de kloof tussen detectienauwkeurigheid en adversariële veerkracht vereist dat robuustheid, uitlegbaarheid en continue verificatie als gezamenlijk geoptimaliseerde eigenschappen van een enkel beveiligingssysteem worden behandeld.