A Queryable Knowledge Graph of MITRE ATLAS: Cross-Linking Adversarial AI Taxonomies for Grounded Threat Reasoning
Dit artikel presenteert een op Neo4j gebaseerde kennisgraaf die de statische MITRE ATLAS-documentatie transformeert naar een doorzoekbaar, door LLM gegrond systeem dat gekoppeld is aan de OWASP Top 10 voor LLM-applicaties, waardoor professionals in staat worden gesteld om dreigingsredenering uit te voeren, 40 niet-gemitigeerde generatieve AI-technieken te identificeren en het orthogonale karakter van ATLAS-tactieken en OWASP-risicocategorieën aan te tonen.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Stel je voor dat je een enorme, ongelooflijk gedetailleerde encyclopedie hebt die geschreven is door beveiligingsexperts genaamd MITRE ATLAS. Dit boek beschrijft elke bekende manier waarop een "digitale schurk" een Artificial Intelligence-systeem kan hacken. Het somt de doelen van de schurken op (tactieken), hun specifieke trucjes (technieken), de beschikbare verdedigingen (mitigaties) en echte verhalen van aanvallen die al hebben plaatsgevonden (casestudies).
Het probleem volgens dit paper is dat deze encyclopedie statisch is. Het is als een bibliotheek waar de boeken achter glas zijn vergrendeld. Je kunt ze wel lezen, maar je kunt de bibliothecaris niet vragen: "Laat me elke truc zien die nog geen verdediging heeft," of "Leg de verbanden tussen deze specifieke aanval en die specifieke zwakte." Je moet handmatig door pagina's bladeren, lijsten kruisverwijzen en hopen dat je niets mist.
Salwa Makni's paper gaat over het veranderen van die vergrendelde bibliotheek in een levende, interactieve kaart.
Hier is de uitsplitsing van wat zij hebben gedaan, met behulp van eenvoudige analogieën:
1. Het bouwen van de kaart (De Knowledge Graph)
In plaats van de data in een lijst of document bij te houden, bouwde de auteur een digitale spinnenweb (een "Knowledge Graph" genoemd in Neo4j).
- De Nodes (De stippen): Elke stip vertegenwoordigt een puzzelstukje: een specifieke aanvalstruc, een doel van een schurk, een verdedigingsstrategie of een echt verhaal van een aanval.
- De Strings (De verbindingen): De lijnen die de stippen verbinden, laten zien hoe ze met elkaar samenhangen. Bijvoorbeeld, een lijn verbindt "LLM Prompt Injection" (een truc) met "Prompt Injection" (het doel) en een andere lijn verbindt het met "Input Validation" (de verdediging).
- Waarom dit belangrijk is: In een normaal document vereist het vinden van een verband lezen. In deze kaart kun je direct "wandelen" van een truc naar de verdediging, of zien welke trucs geen enkele string aan een verdediging hebben hangen.
2. Het samenvoegen van twee verschillende talen (Cross-Linking)
Securityteams spreken twee verschillende talen:
- MITRE ATLAS spreekt in "Adversary Tactics" (Hoe de slechteriken denken en bewegen).
- OWASP Top 10 spreekt in "App Vulnerabilities" (Waar de software zwak is).
De auteur heeft handmatig bruggen getrokken tussen deze twee werelden. Ze hebben de 10 belangrijkste categorieën van LLM-risico's uit OWASP genomen en deze verbonden met de specifieke trucs in MITRE ATLAS.
- De ontdekking: Ze ontdekten dat deze twee lijsten niet simpelweg hetzelfde herhalen; ze zijn orthogonaal (zoals de X- en Y-as op een grafiek). De één organiseert op basis van wat de slechterik wil doen, en de ander op basis van waar de software zwak is. Door ze te verbinden, krijg je een 3D-zicht op het probleem in plaats van een platte 2D-lijst.
3. De "Gegronde" Detective (De Reasoning Engine)
De auteur heeft een tool gebouwd die een AI (LLM) gebruikt om vragen te beantwoorden, maar met een strikte regel: De AI mag niets verzinnen.
- Hoe het werkt: Wanneer je vraagt: "Hoe stop ik deze aanval?", raadt de AI niet simpelweg op basis van zijn training. In plaats daarvan werkt hij als een bibliothecaris die eerst het specifieke ID-nummer van de aanval in de kaart opzoekt, de exacte feiten uit de database pakt en deze vervolgens voor je samenvat.
- Het voordeel: Als de kaart zegt "Geen verdediging aanwezig", dan zegt de AI "Geen verdediging aanwezig". Hij hallucineert geen nepoplossing. Elk antwoord komt met een "citatie-tag" die terugverwijst naar de originele bron, zoals een voetnoot in een wetenschappelijk artikel.
4. Wat ze hebben gevonden (De Resultaten)
Door queries uit te voeren op deze kaart, bracht de auteur harde waarheden aan het licht die verborgen waren in de statische documenten:
- De Verdedigingskloof: Ze vonden 40 specifieke trucs gericht op Generatieve AI die momenteel nul gedocumenteerde verdedigingen hebben. Het is alsover het vinden van 40 nieuwe manieren om een slot te kraken waarbij er nog geen lockpick bestaat.
- De Beste Verdedigingen: Ze identificeerden welke verdedigingen de meeste grond dekken. Bijvoorbeeld, "AI Telemetry Logging" (het bijhouden van een gedetailleerd logboek van wat de AI doet) dekt 17 verschillende aanvalstricks, wat het een hoge-prioriteitverdediging maakt.
- De Orthogonaliteit: Ze bewezen dat je niet alleen één lijst (OWOWASP) kunt gebruiken om de andere (ATLAS) op te lossen. Je hebt beide nodig om het volledige plaatje te zien.
5. Wat het is (en wat het niet is)
- Het is: Een werkend prototype, een database en een set tools waarmee security engineers complexe vragen kunnen stellen en antwoorden kunnen krijgen op basis van harde data, niet op basis van gissingen.
- Het is niet: Een afgewerkt commercieel product (nog niet). De auteur geeft toe dat de kaart nog steeds wordt opgebouwd. Sommige verbindingen (zoals waarom een verdediging werkt) zijn nog niet volledig gedetailleerd en de "AI-detective" kan soms een truc missen als de initiële vraag niet perfect is.
- Het is niet: Een toverstaf die de AI-beveiliging oplost. Het is een tool om mensen te helpen het landschap beter te begrijpen, zodat ze betere verdedigingen kunnen bouwen.
Kortom: Het paper verandert een statische, moeilijk leesbare lijst van AI-bedreigingen in een dynamische, doorzoekbare kaart. Het verbindt twee verschillende beveiligingstalen, gebruikt AI om vragen te beantwoorden zonder te liegen, en belicht precies waar onze verdedigingen tekortschieten in de strijd tegen AI-hackers.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.