Proving the Utility of Large Language Models in Cybersecurity Simulations: A Comprehensive Examination
Dit artikel toont aan dat het integreren van Large Language Models met YAML-gebaseerde netwerkconfiguraties cybersecurity-simulaties aanzienlijk verbetert door de creatie van omgevingen te automatiseren en een versnelling van 25.000x tot 50.000x te bereiken ten opzichte van traditionele reinforcement learning-methoden, terwijl een hoge mate van compromis en realisme behouden blijft.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
De digitale wereld staat onder voortdurende belegering. Elke dag zoeken geautomatiseerde programma's en menselijke aanvallers naar zwakke plekken in computernetwerken, op zoek naar een manier om binnen te glippen en gegevens te stelen of schade aan te richten. Om hen tegen te houden, bouwen beveiligingsexperts oefenomgevingen die echte netwerken nabootsen. Dit zijn als trainingsgronden waar ze nieuwe verdedigingsstrategieën kunnen testen zonder echte systemen in gevaar te brengen. Jarenlang was het creëren van deze oefengronden een traag, handmatig proces. Experts moesten elk detail van het netwerk uitschrijven, van de verbindingen tussen computers tot de specifieke software die erop draait, vaak met behulp van complexe code. Als het netwerk veranderde, moesten ze alles met de hand herschrijven. Dit proces was zo tijdrovend dat het beperkte hoeveel scenario's onderzoekers konden testen, waardoor ze minder middelen hadden om zich voor te bereiden op de volgende grote aanval.
Een nieuwe studie door onderzoekers van de Tesseract Academy, Electi Consulting en het Alan Turing Institute suggereert een manier om dit drastisch te versnellen. Ze vroegen een type kunstmatige intelligentie dat bekend staat als een Large Language Model om het zware werk te doen. In plaats van regel voor regel code te schrijven, gaven de onderzoekers de AI een reeks instructies en een paar voorbeelden van hoe een goede netwerkconfiguratie eruitziet. De AI schreef vervolgens de volledige opstelling voor hen in een formaat genaamd YAML, een gestructureerde manier om gegevens te vermelden die computers gemakkelijk kunnen lezen. De onderzoekers kwamen tot de conclusie dat deze methode verrassend goed werkte. De AI genereerde netwerkkaarten die geldig en klaar voor gebruik waren in ongeveer 70 procent van de gevallen, zonder dat er menselijke correctie nodig was. Belangrijker nog, toen ze deze door AI gemaakte netwerken gebruikten om aanvalstrategieën te testen, waren de resultaten verbijsterend snel en effectief.
De onderzoekers testten hun systeem door zes verschillende netwerkscenario's te creëren, variërend van eenvoudige opstellingen tot complexe, door AI gegenereerde omgevingen. Vervolgens zetten ze twee verschillende soorten aanvallers tegen deze netwerken op. De eerste was een traditioneel computerprogramma dat leert door middel van vallen en opstaan, een methode die bekend staat als reinforcement learning. Dit programma moest het netwerk stap voor stap verkennen, waarbij het verschillende acties probeerde om te zien wat werkte. Het duurde dit programma vijftien tot negenentwintig minuten om te leren hoe het een enkel netwerk kon binnendringen, en zelfs dan slaagde het er vaak niet in om het beste pad naar het doel te vinden. De tweede aanvaller was een script geschreven door het Large Language Model. Dit script hoefde niet te leren; het analyseerde simpelweg de netwerkkaart en schreef een plan om binnen te dringen. In elke test slaagde het door de AI geschreven script erin het netwerk in minder dan een tiende van een seconde te compromitteren.
Het verschil in snelheid was niet slechts een beetje sneller; het was een enorme sprong. De door AI gegenereerde scripts voltooiden hun taken ongeveer vijfentwintigduizend tot vijftigduizend keer sneller dan het traditionele leerprogramma. Terwijl het traditionele programma worstelde om een weg door complexe netwerken te vinden, slaagden de AI-scripts, met name één die een meerfasige aanvalsketen nabootste, erin om de netwerken in 94,5 procent van de gevallen binnen te dringen. De onderzoekers merkten op dat de AI vooral goed was in het begrijpen van de regels van het netwerk, zoals welke computers met elkaar konden communicen en welke werden geblokkeerd door digitale muren. Eén specifieke tactiek, waarbij het AI-script zich richtte op het snel bewegen van de ene computer naar de andere om een waardevol doel te bereiken, bleek de meest betrouwbare en efficiënte methode.
Dit succes benadrukt een verschuiving in hoe cybersecurityonderzoek mogelijk wordt uitgevoerd. De studie toonde aan dat door voorbeelden te gebruiken om de AI te begeleiden, in plaats van alleen een blanco sjabloon te geven, het systeem veelvoorkomende fouten kon vermijden, zoals het creëren van onmogelijke netwerkverbindingen of tegenstrijdige beveiligingsregels. De onderzoekers ontdekten ook een subtiele valkuil in de manier waarop ze met de AI communiceerden. Wanneer ze probeerden de fouten van de AI te corrigeren door de AI tijdens een gesprek te laten "onthouden" wat de fix was, begon de AI later subtielere fouten te maken. Ze kwamen tot de conclusie dat het beter was om een perfect, vooraf goedgekeurd voorbeeld aan te houden en de AI die structuur te laten kopiëren, dan om het door middel van een heen-en-weer gesprek te proberen te onderwijzen.
De bevindingen suggereren dat Large Language Models als krachtige instrumenten kunnen fungeren voor het genereren van realistische trainingsomgevingen en het testen van verdedigingsstrategieën op een snelheid die menselijke experts of traditionele software niet kunnen evenaren. De onderzoekers merken er voorzichtig bij op dat deze resultaten afkomstig zijn van simulaties, niet van echte aanvallen, en dat toekomstig werk echte wereldgegevens moet integreren om te garanderen dat de gevonden kwetsbaarheden werkelijk relevant zijn. Echter, het vermogen om duizenden unieke, complexe netwerkscenario's in seconden te creëren, opent de deur voor het grondiger en frequenter testen van verdedigingen. Door de creatie van deze digitale slagvelden te automatiseren, zouden beveiligingsteams potentieel een stap voor kunnen blijven op aanvallers, door hun verdediging te testen tegen een breder scala aan dreigingen dan ooit tevoren.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.